功能介绍
通过HTTP协议接入图像生成Agent,实现文生图、图生图、涂鸦生图功能。目前仅支持直通链路。
适用于壁纸生成、涂鸦作画、照片美化、图像风格化等各类图像生成场景。
直通链路是指不经过语音识别(ASR)、意图识别、语音合成(TTS)等节点,将请求直接送入图像生成Agent,并直接返回图片生成结果。
接入说明
前提条件
首先需要开通阿里云百炼模型服务,并获取API KEY。
请参考获取API Key,API KEY作为百炼模型服务的鉴权凭证。
管控台配置
- 在多模态开发套件中创建多模态交互应用,选择全能版(不要选择视觉版),关闭语音交互。保持意图识别、文本模型开启。
- 关闭对话承接语、知识库、联网搜索、长期记忆。
5。
- 技能、MCP服务全部清空,Agent只保留生图玩法Agent。
-
配置图像生成Agent,支持涂鸦生图、生图助手、文生图3种玩法。
- 涂鸦生图:基于手绘的涂鸦线稿生成图片。
- 生图助手:基于上传的图片生成新图片。
- 文生图:基于输入的文本指令生成图片。
- 每种功能支持模型选择、提示词、正向提示词智能优化,反向提示词等选项。提示词可以添加变量,用于动态传入不同提示词。
- 配置完成后请点击右上角发布按键进行发布(必须发布后才能测试)。
HTTP协议接入
请求参数说明
一级参数 | 二级参数 | 类型 | 是否必选 | 说明 |
model | string | 是 | 阿里云百炼模型名称,固定为"multimodal-dialog",请直接复制使用 | |
input | directive | string | 是 | 指令名称:Request |
app_id | string | 是 | 客户创建的应用ID(获取APP ID),可在多模态交互开发套件控制台的“我的应用”页面查看 | |
dialog_id | string | 否 | 对话id,默认不填时是新对话,服务端会自动生成并在返回结果中下发,格式示例:"12345678-1234-1234-1234-1234567890ab",共36个字符。当希望继续之前的对话时,把当时服务端下发的dialog_id在这里传入。生图玩法不考虑上下文,不填即可。 | |
text | string | 是 | 要处理的文本。注意,在本实践中没有文本请置为""空字符串。 | |
parameters | client_info | object | 是 | 参数说明参考下方 parameters.client_info的参数说明表格 |
images | list[] | 否 | 需要参考的图片,在图生图场景需要,文生图不需要,parameters.images的参数说明表格 | |
biz_params | object | 否 | 按需配置,参数说明参考下方parameters.biz_params的参数说明表格 |
parameters.client_info的参数说明
一级参数 | 二级参数 | 类型 | 是否必选 | 说明 |
|---|---|---|---|---|
user_id | string | 是 | 终端用户ID,客户根据自己业务规则生成,用来针对不同终端用户实现定制化功能。最大长度36个字符。 | |
device | uuid | string | 否 | 客户端全局唯一的ID,需要用户自己生成并传入SDK,最大长度40个字符。一个终端用户可以有多个设备,那么每一个设备的uuid都不同,但user_id相同。 |
parameters.images的参数说明
一级参数 | 类型 | 是否必选 | 说明 |
|---|---|---|---|
type | string | 是 | 图片类型,支持两种:base64/url |
value | string | 是 | 图片内容。
|
parameters.biz_params的参数说明
一级参数 | 二级参数 | 类型 | 是否必选 | 说明 |
|---|---|---|---|---|
commands[i] | name | string | 是 | 表示直通到agent,本实践中固定为“agent_command”,请直接复制使用 |
exec_params | object | 是 | 表示指定的agent,本实践固定,具体请参考commands.exec_params参数说明 | |
user_defined_params | image_to_image | object | 否 | 表示用户自定义的agent参数,image_to_image表示传递给生图agent的参数,本实践仅在当需要传递生图agent内的提示词自定义变量时需要填充 |
parameters.biz_params.commands.exec_params参数说明
一级参数 | 二级参数 | 类型 | 是否必选 | 说明 |
|---|---|---|---|---|
exec_params | app_id | string | 是 | 表示指定的agent,本实践固定为"image_to_image",请复制使用 |
intent | string | 是 | 表示指定agent的动作,本实践固定为"open_image_to_image",请复制使用 | |
slots | list[] | 是 | agent需要的槽位信息 |
parameters.biz_params.commands.exec_params.slots参数说明
name | string | 是 | 表示槽位名 |
norm_value | string | 是 | 表示槽位值 |
- textToImage:文生图
- imageAssistant:生图助手
- sketchToImage:涂鸦生图
生图模式 | 模型配置 | 支持分辨率 |
文生图 | 轻量版 | 图像分辨率宽高范围在[200, 2048],宽高比在[1:4, 4:1]。比如256x2048是不允许的,因为宽高比为1:8。 |
均衡版 | ||
高级版 | 图像分辨率:总像素在[1280*1280, 1440*1440]之间 图像宽高比:[1:4, 4:1] | |
生图助手/涂鸦生图 | 轻量版 | 图像分辨率:宽高均在[512, 4096]像素之间 |
均衡版 | 图像分辨率:宽高均在[512*512, 2048*2048]像素之间 | |
高级版 | 图像分辨率:总像素在 [768*768, 2048*2048]像素之间 |
parameters.biz_params.user_defined_params.image_to_image.user_prompt_params参数说明
在涂鸦生图配置面板的提示词区域,单击右上角的 {x} 自定义变量 按钮即可添加自定义变量,其中${style} 为默认预置变量。
一级参数 | 二级参数 | 类型 | 是否必选 | 说明 |
|---|---|---|---|---|
user_prompt_params | positive | object | 否 | 提示词中的自定义变量 |
negative | object | 是 | 反向提示词的自定义变量 |
文生图请求示例
文生图curl请求示例
生图助手请求示例
生图助手curl请求示例
涂鸦生图请求示例
参考生图助手请求示例,仅需将parameters.biz_params.commands.exec_params.slots内的function槽位从imageAssistant(表示生图助手)改为sketchToImage(表示涂鸦生图)。
文本返回事件说明
一级参数 | 二级参数 | 类型 | 是否必选 | 说明 |
|---|---|---|---|---|
output | event | string | 是 | 事件名称:RespondingContent |
dialog_id | string | 是 | 对话ID | |
round_id | string | 是 | 本轮交互的ID | |
llm_request_id | string | 是 | 调用llm的request_id | |
text | string | 是 | 生成图像的url,在生成过程内容为RUNNING,生成结束后为图片的url | |
spoken | string | 是 | 用于TTS合成的内容,在未开启语音合成功能时不用关注。本实践内容和text字段相同。 | |
finished | bool | 是 | 输出是否结束 | |
finish_reason | string | 否 | 结束原因,目前只有一种:
| |
extra_info | object | 否 | 其他扩展信息,目前支持:
|
output.extra_info.agent_info的参数说明
一级参数 | 二级参数 | 类型 | 是否必选 | 说明 |
|---|---|---|---|---|
round | string | 是 | 对话轮次 | |
device | device_id | string | 是 | 请求时使用的device.uuid |
intent_infos | intent | string | 是 | 使用的agent,本实践固定为"open_image_to_image" |
domain | string | 是 | 使用的agent,本实践固定为"image_to_image" |