Skip to main content
接入图像生成Agent

通过HTTP协议接入图像生成Agent

功能介绍

通过HTTP协议接入图像生成Agent,实现文生图、图生图、涂鸦生图功能。目前仅支持直通链路。 适用于壁纸生成、涂鸦作画、照片美化、图像风格化等各类图像生成场景。 直通链路是指不经过语音识别(ASR)、意图识别、语音合成(TTS)等节点,将请求直接送入图像生成Agent,并直接返回图片生成结果。

接入说明

前提条件

首先需要开通阿里云百炼模型服务,并获取API KEY。 请参考获取API Key,API KEY作为百炼模型服务的鉴权凭证。

管控台配置

  1. 多模态开发套件中创建多模态交互应用,选择全能版(不要选择视觉版),关闭语音交互。保持意图识别、文本模型开启。
文本模型选择多模态交互专有模型-高速版
  1. 关闭对话承接语、知识库、联网搜索、长期记忆。
携带上下文轮数设置为 5
  1. 技能、MCP服务全部清空,Agent只保留生图玩法Agent。
  2. 配置图像生成Agent,支持涂鸦生图、生图助手、文生图3种玩法。
    1. 涂鸦生图:基于手绘的涂鸦线稿生成图片。
    2. 生图助手:基于上传的图片生成新图片。
    3. 文生图:基于输入的文本指令生成图片。
  3. 每种功能支持模型选择、提示词、正向提示词智能优化,反向提示词等选项。提示词可以添加变量,用于动态传入不同提示词。
涂鸦生图的模型选择提供三个选项:图生图高级版图生图均衡版图生图轻量版
  1. 配置完成后请点击右上角发布按键进行发布(必须发布后才能测试)。

HTTP协议接入

请求参数说明

一级参数

二级参数

类型

是否必选

说明

model

string

阿里云百炼模型名称,固定为"multimodal-dialog",请直接复制使用

input

directive

string

指令名称:Request

app_id

string

客户创建的应用ID(获取APP ID),可在多模态交互开发套件控制台的“我的应用”页面查看

dialog_id

string

对话id,默认不填时是新对话,服务端会自动生成并在返回结果中下发,格式示例:"12345678-1234-1234-1234-1234567890ab",共36个字符。当希望继续之前的对话时,把当时服务端下发的dialog_id在这里传入。生图玩法不考虑上下文,不填即可。

text

string

要处理的文本。注意,在本实践中没有文本请置为""空字符串。

parameters

client_info

object

参数说明参考下方 parameters.client_info的参数说明表格

images

list[]

需要参考的图片,在图生图场景需要,文生图不需要,parameters.images的参数说明表格

biz_params

object

按需配置,参数说明参考下方parameters.biz_params的参数说明表格

parameters.client_info的参数说明

一级参数

二级参数

类型

是否必选

说明

user_id

string

终端用户ID,客户根据自己业务规则生成,用来针对不同终端用户实现定制化功能。最大长度36个字符。

device

uuid

string

客户端全局唯一的ID,需要用户自己生成并传入SDK,最大长度40个字符。一个终端用户可以有多个设备,那么每一个设备的uuid都不同,但user_id相同。

parameters.images的参数说明

一级参数

类型

是否必选

说明

type

string

图片类型,支持两种:base64/url

value

string

图片内容。

  • 当type为base64时,这里是图片的base64字符串。

  • 当type为url时,这里是图片的url地址。

parameters.biz_params的参数说明

一级参数

二级参数

类型

是否必选

说明

commands[i]

name

string

表示直通到agent,本实践中固定为“agent_command”,请直接复制使用

exec_params

object

表示指定的agent,本实践固定,具体请参考commands.exec_params参数说明

user_defined_params

image_to_image

object

表示用户自定义的agent参数,image_to_image表示传递给生图agent的参数,本实践仅在当需要传递生图agent内的提示词自定义变量时需要填充

parameters.biz_params.commands.exec_params参数说明

一级参数

二级参数

类型

是否必选

说明

exec_params

app_id

string

表示指定的agent,本实践固定为"image_to_image",请复制使用

intent

string

表示指定agent的动作,本实践固定为"open_image_to_image",请复制使用

slots

list[]

agent需要的槽位信息

parameters.biz_params.commands.exec_params.slots参数说明

name

string

表示槽位名

norm_value

string

表示槽位值

在生图agent中,需填充如下function、size两种槽位信息。
{
      "slots": [
          {
            "name": "function",
            "norm_value" :"imageAssistant"
          },
          {
            "name":"size",
            "norm_value":"768*768"
          }
      ]
}
function用来指定具体的生图功能,支持三种配置:
  • textToImage:文生图
  • imageAssistant:生图助手
  • sketchToImage:涂鸦生图
size用来指定生成图片的分辨率,分辨率和选择的玩法及模型强相关,支持的分辨率范围见下表

生图模式

模型配置

支持分辨率

文生图

轻量版

图像分辨率宽高范围在[200, 2048],宽高比在[1:4, 4:1]。比如256x2048是不允许的,因为宽高比为1:8。

均衡版

高级版

图像分辨率:总像素在[1280*1280, 1440*1440]之间

图像宽高比:[1:4, 4:1]

生图助手/涂鸦生图

轻量版

图像分辨率:宽高均在[512, 4096]像素之间

均衡版

图像分辨率:宽高均在[512*512, 2048*2048]像素之间

高级版

图像分辨率:总像素在 [768*768, 2048*2048]像素之间

parameters.biz_params.user_defined_params.image_to_image.user_prompt_params参数说明
本实践仅在当需要传递生图agent内的提示词自定义变量时需要填充。
在涂鸦生图配置面板的提示词区域,单击右上角的 {x} 自定义变量 按钮即可添加自定义变量,其中 ${style} 为默认预置变量。

一级参数

二级参数

类型

是否必选

说明

user_prompt_params

positive

object

提示词中的自定义变量

negative

object

反向提示词的自定义变量

"user_defined_params": {
    "image_to_image": {
        "user_prompt_params": {
            "positive": {
                "hair": "长头发",
                "name": "张三"
            },
            "negative": {
                "style": "低分辨率"
            }
        }
    }
}

文生图请求示例

{
    "model": "multimodal-dialog",
    "input": {
        "directive": "Request",
        "app_id": "xxxxxx",
        "text": ""
    },
    "parameters": {
        "client_info": {
            "user_id": "test-251222",
            "device": {
                "uuid": "test-251222-123"
            }
        },
      "biz_params": {
        "commands": [
          {
            "name": "agent_command",
            "exec_params": {
              "app_id": "image_to_image",
              "intent": "open_image_to_image",
		"slots": [
		  {
		    "name": "function",
		    "norm_value" :"textToImage"
			},
		  {
		    "name":"size",
		    "norm_value":"768*768"
		        }
		]
            }
          }
        ],
	  "user_defined_params": {
		"image_to_image": {
                  "user_prompt_params":{
                    "positive":{
                       "hair": "长头发"
                       "name": "张三"
                      },
                    "negative":{
                       "style": "低分辨率"
                      }
                    }
		}
	  }
      }
    }
}

文生图curl请求示例

curl --location "https://dashscope.aliyuncs.com/api/v1/services/aigc/multimodal-generation/generation" \
  --header 'Content-Type: application/json' \
  --header 'Authorization: Bearer your_api_key' \
  --header 'X-DashScope-SSE: enable' \
  --data '{
    "model": "multimodal-dialog",
    "input": {
        "directive": "Request",
        "app_id": "xxxxxx",
        "text": ""
    },
    "parameters": {
        "client_info": {
            "user_id": "test-251222",
            "device": {
                "uuid": "test-251222-123"
            }
        },
        "biz_params": {
            "commands": [
                {
                    "name": "agent_command",
                    "exec_params": {
                        "app_id": "image_to_image",
                        "intent": "open_image_to_image",
                        "slots": [
                            {
                                "name": "function",
                                "norm_value": "textToImage"
                            },
                            {
                                "name": "size",
                                "norm_value": "768*768"
                            }
                        ]
                    }
                }
            ],
            "user_defined_params": {
                "image_to_image": {
                    "user_prompt_params": {
                        "positive": {
                            "hair": "长头发",
                            "name": "张三"
                        },
                        "negative": {
                            "style": "低分辨率"
                        }
                    }
                }
            }
        }
    }
}'
  1. 请替换请求中的your_api_key(API_KEY)、app_id,img_url。
  2. text字段请置为""空字符串,否则会进入意图
  3. user_defined_params仅需在传递生图玩法中Agent提示词自定义变量时才需传递。

生图助手请求示例

{
    "model": "multimodal-dialog",
    "input": {
        "directive": "Request",
        "app_id": "xxxxxx",
        "text": ""
    },
    "parameters": {
        "images": [
            {
                "type": "url",
                "value": "img_url"
            }
        ],
        "client_info": {
            "user_id": "test-251222",
            "device": {
                "uuid": "test-251222-123"
            }
        },
        "biz_params": {
            "commands": [
                {
                    "name": "agent_command",
                    "exec_params": {
                        "app_id": "image_to_image",
                        "intent": "open_image_to_image",
                        "slots": [
                            {
                                "name": "function",
                                "norm_value": "imageAssistant"
                            },
                            {
                                "name": "size",
                                "norm_value": "768*768"
                            }
                        ]
                    }
                }
            ],
            "user_defined_params": {
                "image_to_image": {
                    "user_prompt_params": {
                        "positive": {
                            "hair": "长头发",
                            "name": "张三"
                        },
                        "negative": {
                            "style": "低分辨率"
                        }
                    }
                }
            }
        }
    }
}

生图助手curl请求示例

curl --location "https://dashscope.aliyuncs.com/api/v1/services/aigc/multimodal-generation/generation" \
  --header 'Content-Type: application/json' \
  --header 'Authorization: Bearer your_api_key' \
  --header 'X-DashScope-SSE: enable' \
  --data '{
    "model": "multimodal-dialog",
    "input": {
        "directive": "Request",
        "app_id": "xxxxxx",
        "text": ""
    },
    "parameters": {
        "images": [
            {
                "type": "url",
                "value": "img_url"
            }
        ],
        "client_info": {
            "user_id": "test-251222",
            "device": {
                "uuid": "test-251222-123"
            }
        },
        "biz_params": {
            "commands": [
                {
                    "name": "agent_command",
                    "exec_params": {
                        "app_id": "image_to_image",
                        "intent": "open_image_to_image",
                        "slots": [
                            {
                                "name": "function",
                                "norm_value": "imageAssistant"
                            },
                            {
                                "name": "size",
                                "norm_value": "768*768"
                            }
                        ]
                    }
                }
            ],
            "user_defined_params": {
                "image_to_image": {
                    "user_prompt_params": {
                        "positive": {
                            "hair": "长头发",
                            "name": "张三"
                        },
                        "negative": {
                            "style": "低分辨率"
                        }
                    }
                }
            }
        }
    }
}'
  1. 请替换请求中的your_api_key(API_KEY)、app_id,img_url。
  2. text字段请置为""空字符串,否则会进入意图
  3. user_defined_params仅需在传递生图玩法中Agent提示词自定义变量时才需传递。

涂鸦生图请求示例

参考生图助手请求示例,仅需将parameters.biz_params.commands.exec_params.slots内的function槽位从imageAssistant(表示生图助手)改为sketchToImage(表示涂鸦生图)。

文本返回事件说明

一级参数

二级参数

类型

是否必选

说明

output

event

string

事件名称:RespondingContent

dialog_id

string

对话ID

round_id

string

本轮交互的ID

llm_request_id

string

调用llm的request_id

text

string

生成图像的url,在生成过程内容为RUNNING,生成结束后为图片的url

spoken

string

用于TTS合成的内容,在未开启语音合成功能时不用关注。本实践内容和text字段相同。

finished

bool

输出是否结束

finish_reason

string

结束原因,目前只有一种:

  • stop 表示正常结束

extra_info

object

其他扩展信息,目前支持:

  • agent_info: 智能体信息,见

output.extra_info.agent_info的参数说明

一级参数

二级参数

类型

是否必选

说明

round

string

对话轮次

device

device_id

string

请求时使用的device.uuid

intent_infos

intent

string

使用的agent,本实践固定为"open_image_to_image"

domain

string

使用的agent,本实践固定为"image_to_image"

返回示例如下

{
    "output": {
        "round_id": "xxx",
        "llm_request_id": "xxx",
        "extra_info": {
            "agent_info": {
                "round": 1,
                "device": {
                    "device_id": "test-251222-123"
                },
                "intent_infos": [
                    {
                        "intent": "open_image_to_image",
                        "domain": "image_to_image"
                    }
                ]
            },
            "query": ""
        },
        "dialog_id": "6c4340eb-xxx-4055-8d66-0794df7986e0",
        "spoken": "img_url",
        "finished": true,
        "text": "img_url",
        "event": "RespondingContent"
    },
    "request_id": "xxx"
}
  1. 在图像生成过程中,每3-5秒会返回一个心跳包,output.text="RUNNING"表示合成中,此时output.finished = false
  2. 当图像合成结束,output.finished = true,此时output.text字段为img_url
id:1 合成过程中
event:result
:HTTP_STATUS/200
data:{"output":{"round_id":"6633eccfd6a44090b49bbbfe84a8xxx","llm_request_id":"f22feed889994756b3787de8b08bxxx","extra_info":{"tool_infos":[{"output":"","tool_name":"image_to_image","arguments":{},"type":"agent","success":true}]},"dialog_id":"00cd961c-bf58-49f5-b3bb-7c5ca9xxx","spoken":"","finished":false,"text":"","event":"RespondingContent"},"request_id":"a162bf16-8156-4b13-88f6-fcb7xxx"}
id:2 合成过程中
event:result
:HTTP_STATUS/200
data:{"output":{"round_id":"6633eccfd6a44090b49bbbfe84xxx","llm_request_id":"f22feed889994756b3787de8b0xxx","extra_info":{"agent_info":{"round":1,"device":{"device_id":"xxx-test-251222-123"},"intent_infos":[{"intent":"open_image_to_image","domain":"image_to_image"}]},"query":""},"dialog_id":"00cd961c-bf58-49f5-b3bb-7c5xxx","spoken":"RUNNING","finished":false,"text":"RUNNING","event":"RespondingContent"},"request_id":"a162bf16-8156-4b13-88f6-fcb7xxx"}
id:3 合成过程中
event:result
:HTTP_STATUS/200
data:{"output":{"round_id":"6633eccfd6a44090b49bbbfe84xxx","llm_request_id":"f22feed889994756b3787de8bxxx","extra_info":{"agent_info":{"round":1,"device":{"device_id":"xxx-test-251222-123"},"intent_infos":[{"intent":"open_image_to_image","domain":"image_to_image"}]},"query":""},"dialog_id":"00cd961c-bf58-49f5-b3bb-7c5cxxx","spoken":"RUNNING","finished":false,"text":"RUNNING","event":"RespondingContent"},"request_id":"a162bf16-8156-4b13-88f6-fcb71xxx"}
id:4 合成过程中
event:result
:HTTP_STATUS/200
data:{"output":{"round_id":"6633eccfd6a44090b49bbb1xxx","llm_request_id":"f22feed889994756b3787xxx","extra_info":{"agent_info":{"round":1,"device":{"device_id":"xxx-test-251222-123"},"intent_infos":[{"intent":"open_image_to_image","domain":"image_to_image"}]},"query":""},"dialog_id":"00cd961c-bf58-49f5-b3bb-xxx","spoken":"RUNNING","finished":false,"text":"RUNNING","event":"RespondingContent"},"request_id":"a162bf16-8156-4b13-88f6-fclxxx"}
id:5 合成结束
event:result
:HTTP_STATUS/200
data:{"output":{"round_id":"6633eccfd6a44090b49bbbfxxx","llm_request_id":"f22feed889994756b3787de8xxx","extra_info":{"tool_infos":[{"output":"","tool_name":"image_to_image","arguments":{},"type":"agent","success":true}],"agent_info":{"round":1,"device":{"device_id":"xxx-test-251222-123"},"intent_infos":[{"intent":"open_image_to_image","domain":"image_to_image"}]},"query":""},"finish_reason":"stop","dialog_id":"00cd961c-bf58-49f5-b3bb-7cxxx","spoken":"https://dashscope-result-sh.oss-cn-shanghai.aliyuncs.com/1d/03/20260107/c6e3cb4b/eb8e554d-66ff-44ca-ba0d-f05481405d2c-1-1.png?Expires=1767854752&OSSAccessKeyId=YOUR_ACCESS_KEY_ID&Signature=YOUR_SIGNATURE","finished":true,"text":"https://dashscope-result-sh.oss-cn-shanghai.aliyuncs.com/1d/03/20260107/c6e3cb4b/eb8e554d-66ff-44ca-ba0d-f05481405d2c-1-1.png?Expires=1767854752&OSSAccessKeyId=YOUR_ACCESS_KEY_ID&Signature=YOUR_SIGNATURE","event":"RespondingContent"},"request_id":"a162bf16-8156-4b13-88f6-fcbxxx"}
Managed Agents
数据连接
Skill
应用评测
应用广场
权限管理