完成应用创建后,您可以在应用配置页面,自由组合需要的对话能力。应用配置分为语音交互、理解与生成、技能、Agent四个主要部分。
语言选择
支持欧美、亚洲热门国家的单一语言对话能力,语种、功能持续扩展中。详情请参考多语言对话。
如需多语言自由对话能力,选择默认的中文即可。
语音交互
配置语音交互相关的功能,例如语音模型、打断方式等。
语音AI
可选择是否调用语音识别、语音合成能力,以及调用的具体模型。
语音识别
支持使用阿里云百炼的语音识别模型,包括Fun-ASR实时语音识别、千问3-ASR-Flash-Realtime、Paraformer实时语音识别以及多模态交互轻量版语音识别。
各模型特点:
- Fun-ASR 实时语音识别:多语言灵活度更高,适应多种复杂环境
- Fun-ASR 实时语音识别-2026-02-28:中英文自由切换,多地区方言覆盖,适合口语交互
- 通义千问 3-ASR-Flash-Realtime:高精度语音识别,支持中英日韩德法俄意西葡阿和多种方言
- Paraformer 实时语音识别:新一代非自回归端到端模型
- 多模态交互轻量版语音识别:超低价格,预算友好
- 热词数量:最多支持创建10个热词库,每个热词库最多500个词。
- 配置方式:您可以手动添加词汇,也可以上传文件进行批量添加,文件示例详见页面说明。
语音合成
支持使用阿里云百炼的语音合成模型,包括CosyVoice-实时语音合成、 Qwen-Audio-TTS、千问3-实时语音合成以及其他语音合成。除系统音色外,还支持声音复刻能力CosyVoice声音复刻/设计API(CosyVoice-v2大模型、CosyVoice-v3-Flash大模型、CosyVoice-v3-Plus大模型、CosyVoice-v3.5-Plus大模型、CosyVoice-v3.5-Flash大模型)、Qwen-TTS声音复刻API参考(千问3-TTS-声音复刻)以及声音设计(Qwen)能力(通义千问3-TTS-声音设计)。
- CosyVoice-实时语音合成:CosyVoice-v3-Flash、CosyVoice-v3-Plus、CosyVoice-v3.5-Plus、CosyVoice-v3.5-Flash、CosyVoice-v2。
- Qwen-Audio-TTS:Qwen-Audio-3.0-TTS-Plus、Qwen-Audio-3.0-TTS-Flash
- 通义千问3-实时语音合成:通义千问3-TTS-Flash-Realtime、通义千问3-TTS-instruct-Flash-Realtime、通义千问3-TTS-声音设计、通义千问3-TTS-声音复刻。
- 其他语音合成模型:Sambert语音合成模型、多模态交互轻量版语音合成、多模态交互推荐TTS。
- CosyVoice-v3-Plus 大模型:独家音色、性价比高
- CosyVoice-v3-Flash 大模型:情感表达最佳
- CosyVoice-v3.5-Plus 大模型:声音设计/复刻最佳
- CosyVoice-v3.5-Flash 大模型:声音设计/复刻性价比高
- CosyVoice-v2 大模型:音色丰富
- 例如,模型输出的文本为:“早上好呀![smile]今天天气不错,你想去哪玩?[wink]” 配置过滤符号对[]后,TTS播报文本为:“早上好呀!今天天气不错,你想去哪玩?”
对话打断
支持三种打断方式:任意语音打断(全双工)、点击打断(半双工)、长按对话(半双工,仅移动端支持)。
您可以在控制台选择并体验对话效果。
语义判停与拒识
支持开启语义判停与拒识能力,避免误打断、误唤醒,语音交互体验更佳。
全双工场景下功能效果更显著,开启后可能导致对话延迟增加。
端侧算法
提供以下端侧算法能力:
- 语音唤醒:支持默认唤醒词“小云”,移动端 Android 和 iOS 可直接使用。如需其它芯片平台请联系商务。
- 端侧VAD:语音活性检测,用于检测是否存在语音信号。移动端可直接使用,其他芯片平台可使用云端 VAD 方案,或联系商务进行定制。
- AEC:回声消除,减少自身播报对语音交互的干扰。移动端 Android 和 iOS 可直接使用已集成的语音打断,其它芯片平台如需定制请联系商务。
- 定向拾音:增强特定方向拾音,抑制甚至屏蔽其他方向声音。依赖麦克风阵列硬件布局,如需定制请联系商务。
理解与生成
配置对话理解与生成相关功能,例如文本生成模型、Prompt、知识库等。
意图识别
关闭后仅支持闲聊对话。不再触发调用工具、Agent、联网搜索、对话承接语等基于语义理解的交互功能。
适用于低成本、轻量级语音交互场景。
文本模型
可选择对话中的文本生成大模型。
-
推荐模型:支持选择多模态交互专有模型-高速版、多模态交互专有模型以及多模态交互专有模型-风格化版。
- 多模态交互专有模型-高速版:响应速度更快,适合通用场景、闲聊陪伴场景,如儿童玩具、陪伴机器人等。
- 多模态交互专有模型:指令遵循能力更强,适合工作学习场景,如穿戴设备、学习机等。
- 多模态专有模型-风格化版:风格化能力更强,适合角色扮演等场景,如儿童玩具。
- 百炼模型:您也可选择阿里云百炼提供的各类对话模型,例如Qwen3.7系列、 Qwen3.6 系列。在多模态交互应用中,您还可以选择“我的模型”。
欢迎语
支持设置对话交互的欢迎语,进入对话后模型主动发起话题。如未设置,则需要用户主动提问,模型不会主动发起话题。
您可以配置一句欢迎语用于效果测试。
欢迎语输入框最多支持输入 50 个字符,例如你好,我是小云,今天心情怎么样呀?。
语音交互应用尚不支持通过控制台设置欢迎语。
提示词
支持自定义Prompt,用于设定对话风格和人设。您可以在右侧体验区测试提示词效果。
如未填写,则使用通用Prompt,适用于常见的口语对话场景。
支持使用阿里云百炼的Prompt模板概述和Prompt自动优化功能。
提示词编辑区支持使用 ## 标题分段组织内容(如 ##角色、##系统条件、##风格),变量使用 ${变量名} 格式插入(如 ${location}、${date}),字数上限为 8000 字。
支持插入自定义变量,可以设置变量并传参。传入变量值将替换提示词中对应的变量位置。
在自定义变量弹窗中,可通过入参变量表单填写或 biz_params 字段传递变量值。每个变量需配置变量名、描述和默认值三个字段,单击+ 添加自定义变量可新增变量行。
对话变量
支持在对话输入中添加变量,为模型提供用户语音之外的更多信息,如动作行为、人脸识别结果、时间、地点、天气、周围环境等。
每轮对话中,没有传入参数的变量,将不会输入给模型进行处理。
例如,设置变量名currentWeather(当前天气)、 currentPerson(当前与AI对话的人物的名字),并传入currentWeather=36、 currentPerson=Lily,则本轮对话除传入用户问题,还会传入对应参数。
携带上下文轮数
该参数用于控制模型参考历史对话的轮数,设为1时表示模型在回复时不会参考历史对话信息。
可设置范围为:1~30。
对话承接语
在联网搜索、拍照问答等对话延迟可能较长的场景,大模型结合场景自动生成承接语,减少等待时间,对话体感更流畅。例如:“马上帮你查最新的热点新闻!”,“好的,马上帮你拍照分析!”。
知识库
支持配置阿里云百炼创建的知识库,并进行检索设置。
开启知识库后,通过在提示词中手动输入「/」来添加变量。
具体操作可查看创建和使用知识库说明文档。

${documents},输入"/"即可插入该变量。
长期记忆
开启长期记忆开关,大模型可以基于对话历史,分析挖掘个人信息和偏好、近期生活状况和行为计划,形成长期记忆库,并在后续对话中主动召回,为用户提供更个性化的智能服务。
如需根据业务场景自定义记忆策略、管理记忆结果,请查看接口文档:长期记忆开放接口。
不同应用之间记忆内容隔离;同一个应用中,按照userid维度生成记忆库,不同userid之间记忆隔离。
联网搜索
由于训练数据的时效性,大模型无法准确回答如股票价格、今日资讯等时效性问题。
您可以通过开启联网搜索开关,启用联网检索功能,使大模型可以基于实时检索数据进行回复;支持选择四个版本,包括基础版、高速版、高级版、均衡版;同时您还可以设置搜索策略,默认搜索策略为自主判断,可手动切换为强制联网。
高速版、高级版、均衡版联网搜索均需额外付费,请您根据业务情况按需选择。
对话日志储存
如果您需要保存全量对话数据,可使用阿里云事件总线 Event Bridge 服务。
详细使用方法可查看:对话日志接入。
技能
指令
指令是指由多模态交互下发,设备终端执行的任务,如打开台灯、调高音量等。具体指令可查看:指令列表。
插件
支持接入您在阿里云百炼创建的插件,以增强对话能力。
- 点击添加按钮,选择您需要的插件即可。
-
支持按需勾选多模态交互套件预置插件,您也可以在插件广场中选择,或接入自定义插件。
- 天气查询:实时和历史天气信息查询。
- 万年历:日期、节气、节假日查询。
- 股价查询:获取股票市场实时行情。
- 油价查询:了解燃油最新价格信息。
- 金价查询:掌握黄金市场价格变动。
- 银价查询:掌握白银实时价格变动。
- 汇率查询:提供货币兑换比率参考。
- 新闻资讯:热点新闻一网打尽,新鲜事儿有问必答。
- 路线规划:支持获取当前定位、查询地点信息、进行出行路线规划。例如:“从这里去故宫怎么走?”“从西溪湿地开车去阿里总部大概需要多久?”
- 本地生活:支持查询并推荐POI(兴趣点),推荐基于定位的周边吃喝玩乐。例如:“湖滨银泰有什么好吃的韩餐推荐?”“最近的海底捞在哪里?”“我这里到奥克斯广场走路要多久”
MCP服务
MCP广场
- 支持接入百炼官方MCP服务。 在应用编辑页面左侧技能配置区域下方,单击+MCP按钮,打开选择MCP服务面板,在MCP广场中浏览并选择需要添加的 MCP 服务,然后单击确认完成添加。
- 当前仅支持接入部分百炼官方MCP服务,列表如下:
自定义MCP
支持接入基于百炼平台的自定义MCP。
在应用编排页面的技能配置步骤中,单击底部MCP服务区域打开选择MCP服务面板,然后单击自定义MCP页签查看或接入自定义 MCP 服务。
单击创建MCP服务,可选择以下创建方式:
- 插件:使用外部 OpenAPI 注册。
- 脚本部署:录入 MCP 安装脚本,使用 FC 资源部署。
- AI网关:导入企业 AI 网关中的 MCP 服务。
- 阿里云OpenAPI:导入自定义的阿里云 OpenAPI MCP 服务。
Agent
接入预置Agent
多模态交互应用提供一系列适用于不同场景的Agent,其中视觉理解Agent支持开启高分辨率模式,API参考调用官方Agent。
语音交互应用目前支持语音翻译Agent、极速语音通话Agent、地图出行Agent、新闻电台Agent、儿童故事Agent以及录音纪要Agent,敬请期待。
-
视频通话:实时视觉理解,适用于带有摄像头的设备。点开右侧设置,可配置功能名称、视觉理解模型、欢迎语、退出语、启动指令、退出指令以及提示词。
-
视觉理解模型:包含「推荐模型」及「更多模型」,其中「推荐模型」支持视觉理解高级版以及均衡版,「更多模型」支持Qwen3.6系列、Qwen3.5系列等多模态模型。
- 单击 Agent(如视频通话)右侧的设置图标,打开配置应用面板。除视觉理解模型外,还可配置欢迎语、退出语、启动指令、退出指令及提示词等参数,并支持一键导入理解与生成模块的提示词和变量。
-
视频通话、拍照问答、拍照翻译Agent支持开启高分辨率模式,在配置应用页面开启后即可传入该模型可支持的最大分辨率。
-
-
视觉理解模型:包含「推荐模型」及「更多模型」,其中「推荐模型」支持视觉理解高级版以及均衡版,「更多模型」支持Qwen3.6系列、Qwen3.5系列等多模态模型。
-
拍照问答:当识别到用户有画面理解的需求时,自动调用摄像头拍照并回复。适用于带有摄像头的设备。点开右侧设置,可配置启动指令、提示词,还能选择视觉理解模型。
-
视觉理解模型:包含「推荐模型」及「更多模型」,其中「推荐模型」支持视觉理解高级版以及均衡版,「更多模型」支持Qwen3.6系列、Qwen3.5系列等多模态模型。
-
在拍照问答Agent 的配置应用面板中,可设置以下内容:
- 启动指令:如"拍照看看前边的猫是什么品种"
- 视觉理解模型:选择推荐模型(视觉理解高级版或均衡版)
- 系统提示词:包含人物设定(如"你是小云,AI 多模态交互助手")和风格设定(如"亲切友好口语化")
-
在拍照问答Agent 的配置应用面板中,可设置以下内容:
-
支持IPC模式:将图片直接送入Agent进行识别,适用于带摄像头产品的图片理解、拍学机或学习机内的拍照识图等功能。详情可查看:通过HTTP协议接入拍照问答Agent。
直通链路:是指不通过语音识别(ASR)、意图识别、语音合成(TTS)等节点,直接将请求送入Agent,并将Agent的回答直接返回的链路。
-
视觉理解模型:包含「推荐模型」及「更多模型」,其中「推荐模型」支持视觉理解高级版以及均衡版,「更多模型」支持Qwen3.6系列、Qwen3.5系列等多模态模型。
-
新闻电台:每日更新热门新闻资讯,两位AI主播互动解说,用户可以随时打断并加入对话。点开右侧设置,可配置功能名称、启动指令、退出指令、续播指令以及角色音色。
-
-
语音翻译:多语种实时语音识别,并输出语音翻译、文本翻译结果。点开右侧设置,可配置功能名称、启动指令、退出指令,选择输出结果。
-
-
极速视频通话:基于qwen3.5-omni 系列 realtime 模型的视频对话,支持语音和图片输入,可选语音输出或文本输出。点开右侧设置,可配置功能名称、启动指令以及退出指令。
- 在配置面板中,模型选择选择全模态大模型高级版,还可配置提示词(支持自定义变量)。
-
拍照翻译:多模态应用专属,支持多语言、自动拍照的翻译能力,能够精准翻译眼前的文字。点开右侧设置,可配置触发指令、提示词以及对话变量,支持一键导入主对话链路中的提示词和变量配置。
- 在提示词编辑区中,可使用
##标题分段编写内容,例如##人物设定定义角色身份(如"你是小云,擅长处理文字识别和翻译任务的专家"),##风格定义回复风格(如"亲切友好且口语化")。
- 在提示词编辑区中,可使用
-
儿童故事:陪伴式讲故事功能,拥有自有故事库,支持讲故事过程中的对话交互、故事创作和续写改写。点开右侧设置,可配置功能名称、启动指令、退出指令、语音合成模型以及对应音色。
-
-
多模态备忘录:用户可以通过语音输入的方式,让模型创建备忘、记录关键信息,支持自动拍照并结合视觉信息提取备忘。备忘信息支持通过语音指令查询、修改、删除。
- 典型场景:设定日程提醒如“明天下午两点提醒我开会”,设定闹钟如“五分钟后提醒我”,记忆视觉信息如“记一下我的停车位号码”、“记一下这本书的名字”。
- 在 Agent 配置区域单击添加应用,在弹出的对话框中勾选需要的预置 Agent(如多模态备忘录),单击确定后,所选应用将显示在左侧 Agent 列表中。
-
地图出行:提供复杂路线规划、周边地点查询和推荐能力。例如,“怎么去首都机场最快?”、“推荐附近评分最高的咖啡厅”。(本Agent仅支持上述场景的多轮对话,不支持实时语音导航。)
- 在 Agent 配置页的百炼应用区域,单击+ 添加,弹出添加应用面板。面板提供推荐应用和我的应用两个页签,勾选需要接入的 Agent 后单击确定完成添加。
-
录音纪要:提供实时录音字幕和总结,提炼核心信息、生成会议纪要。例如,“开始实时转写”、“开始录制并总结”。支持对录音总结的内容进行多轮对话问答,例如询问上次会议的讨论内容、昨天课程的课程要点等。还支持对历史内容进行问答,可提问的内容范围包括录音原文,以及大模型总结的纪要文本。
对历史内容进行问答的功能对上线后创建的录音任务可用,对之前的历史任务不支持问答。
- 在应用配置区选择Agent Tab,找到百炼应用区块,打开添加应用弹窗,在推荐应用页签中勾选需要接入的 Agent 应用。
-
接入方式:
- 在听悟-智能纪要Agent中创建应用并发布,按需配置总结能力
- 在多模态应用中勾选录音纪要Agent,并选择配置好的通义听悟应用
- 支持设置语音指令,退出、暂停需要配置唤醒词,避免在会议中误打断录音
- 开发接入,请查看文档:接入听悟智能纪要Agent
- 单击通义听悟-录音Agent 右侧的设置图标打开配置弹窗,配置项分为实时录音总结设置(启动指令、退出/暂停唤醒词、恢复指令)和录音文件总结设置(启动指令、退出指令)两部分。
-
音乐电台:推荐和随机播放舒缓的轻音乐(无人声)。
- 在添加应用对话框的推荐应用页签中,勾选音乐电台应用,单击确定完成添加。
-
图像生成:适用于壁纸生成、涂鸦作画、照片美化、图像风格化等各类图像生成场景。目前仅支持直通链路。接入方式请参考:通过HTTP协议接入图像生成Agent。
- 在多模态应用配置页的Agent页签中,找到百炼应用区域,单击+按钮打开添加应用弹窗,在推荐应用列表中勾选需要的应用(如图像生成),然后单击确定完成添加。
- 点开右侧设置,可配置三种图像生成模式:涂鸦生图、图生图、文生图,通过开关分别启用或关闭。以文生图为例,展开后可选择模型(如文生图高级版)并填写提示词(上限 800 字符)。
-
主动导览:摄像头常开,会持续分析眼前景象,遇到需要讲解的展品,会主动进行介绍。也可以主动要求AI对眼前的展品做介绍或进行问答。
-
-
主动陪伴:摄像头常开,会持续分析眼前景象(也会产生费用),支持功能如下:
- 手势互动:对着摄像头比动作,AI可快速进行动作、表情、语音回复的反馈。如果同时比动作和说话,优先响应说话内容。
- 打招呼:结合视觉信息,与用户互动(类似进入语),如对用户的着装进行点评、针对表情回复相应的夸赞或安抚、对用户手持物品表达兴趣、随机唠嗑等。
- 主动发起话题:结合用户情境(比如绘画/玩魔方、家中打扫卫生等)主动参与活动,发起话题。
- 单击主动陪伴,在右侧配置应用面板中可设置功能名称、启动指令、退出指令及欢迎语,并勾选需要启用的支持能力。
-
拍照问答:当识别到用户有画面理解的需求时,自动调用摄像头拍照并回复。适用于带有摄像头的设备。点开右侧设置,可配置启动指令、提示词,还能选择视觉理解模型。
-
视觉理解模型:包含「推荐模型」及「更多模型」,其中「推荐模型」支持视觉理解高级版以及均衡版,「更多模型」支持Qwen3.6系列、Qwen3.5系列等多模态模型。
-
单击拍照问答进入配置面板,可设置以下参数:
- 启动指令:如
拍照看看前边的猫是什么品种 - 系统提示词:包含人物设定(如"你是小云,AI 多模态交互助手")和风格要求(如"亲切友好口语化")
- 启动指令:如
-
单击拍照问答进入配置面板,可设置以下参数:
-
支持IPC模式:将图片直接送入Agent进行识别,适用于带摄像头产品的图片理解、拍学机或学习机内的拍照识图等功能。详情可查看:通过HTTP协议接入拍照问答Agent。
直通链路:是指不通过语音识别(ASR)、意图识别、语音合成(TTS)等节点,直接将请求送入Agent,并将Agent的回答直接返回的链路。
-
视觉理解模型:包含「推荐模型」及「更多模型」,其中「推荐模型」支持视觉理解高级版以及均衡版,「更多模型」支持Qwen3.6系列、Qwen3.5系列等多模态模型。
-
新闻电台:每日更新热门新闻资讯,两位AI主播互动解说,用户可以随时打断并加入对话。点开右侧设置,可配置功能名称、启动指令、退出指令、续播指令以及角色音色。
-
-
语音翻译:多语种实时语音识别,并输出语音翻译、文本翻译结果。点开右侧设置,可配置功能名称、启动指令、退出指令,选择输出结果。
-
-
极速视频通话:基于qwen3.5-omni 系列 realtime 模型的视频对话,支持语音和图片输入,可选语音输出或文本输出。点开右侧设置,可配置功能名称、启动指令以及退出指令。
- 在配置面板中,还可设置模型选择(选择全模态大模型高级版)和提示词(支持自定义变量)。
-
拍照翻译:多模态应用专属,支持多语言、自动拍照的翻译能力,能够精准翻译眼前的文字。点开右侧设置,可配置触发指令、提示词以及对话变量,支持一键导入主对话链路中的提示词和变量配置。
- 在提示词区域编写提示词,例如使用
##人物设定定义角色(如"你是小云,擅长处理文字识别和翻译任务的专家"),使用##风格定义回复风格(如"请用亲切友好且口语化的方式帮助用户解答问题,适时加入一些语气词,让对话更加自然、贴近生活")。
- 在提示词区域编写提示词,例如使用
-
儿童故事:陪伴式讲故事功能,拥有自有故事库,支持讲故事过程中的对话交互、故事创作和续写改写。点开右侧设置,可配置功能名称、启动指令、退出指令、语音合成模型以及对应音色。
-
-
多模态备忘录:用户可以通过语音输入的方式,让模型创建备忘、记录关键信息,支持自动拍照并结合视觉信息提取备忘。备忘信息支持通过语音指令查询、修改、删除。
- 典型场景:设定日程提醒如“明天下午两点提醒我开会”,设定闹钟如“五分钟后提醒我”,记忆视觉信息如“记一下我的停车位号码”、“记一下这本书的名字”。
- 在 Agent 配置页面中,单击添加应用,在弹出的对话框中勾选需要接入的百炼应用(如多模态备忘录),单击确定后所选应用即出现在左侧 Agent 列表中。
-
地图出行:提供复杂路线规划、周边地点查询和推荐能力。例如,“怎么去首都机场最快?”、“推荐附近评分最高的咖啡厅”。(本Agent仅支持上述场景的多轮对话,不支持实时语音导航。)
- 在应用编辑页第 4 步Agent配置中,单击百炼应用区域的添加按钮,弹出添加应用面板。面板顶部提供推荐应用和我的应用两个页签,以卡片网格展示可选 Agent;勾选需要接入的 Agent 后,单击确定完成批量添加。
-
录音纪要:提供实时录音字幕和总结,提炼核心信息、生成会议纪要。例如,“开始实时转写”、“开始录制并总结”。支持对录音总结的内容进行多轮对话问答,例如询问上次会议的讨论内容、昨天课程的课程要点等。还支持对历史内容进行问答,可提问的内容范围包括录音原文,以及大模型总结的纪要文本。
对历史内容进行问答的功能对上线后创建的录音任务可用,对之前的历史任务不支持问答。
- 在应用配置页面左侧单击Agent页签,找到百炼应用区块,单击进入添加应用弹窗。在推荐应用页签中,以卡片网格展示可选 Agent,勾选所需应用后单击确定。
-
接入方式:
- 在听悟-智能纪要Agent中创建应用并发布,按需配置总结能力
- 在多模态应用中勾选录音纪要Agent,并选择配置好的通义听悟应用
- 支持设置语音指令,退出、暂停需要配置唤醒词,避免在会议中误打断录音
- 开发接入,请查看文档:接入听悟智能纪要Agent
-
单击通义听悟-录音Agent 右侧的设置图标打开配置面板,在选择通义听悟应用下拉框中选择已发布的智能纪要应用,然后分别配置:
- 实时录音总结设置:启动指令、退出/暂停唤醒词、恢复指令
- 录音文件总结设置:启动指令、退出指令
-
音乐电台:推荐和随机播放舒缓的轻音乐(无人声)。
- 在添加应用对话框的推荐应用页签中,勾选音乐电台应用卡片,单击确定完成添加。
-
图像生成:适用于壁纸生成、涂鸦作画、照片美化、图像风格化等各类图像生成场景。目前仅支持直通链路。接入方式请参考:通过HTTP协议接入图像生成Agent。
- 在多模态应用的Agent配置页签中,找到百炼应用区域,单击+按钮打开添加应用弹窗,在推荐应用或我的应用列表中勾选需要接入的应用(如图像生成),然后单击确定完成添加。
- 在配置应用面板中,图像生成包含三个子功能开关:涂鸦生图、图生图和文生图。开启文生图后,需选择模型(如文生图高级版)并填写提示词(必填,最多 800 字符),完成后单击确定。
-
主动导览:摄像头常开,会持续分析眼前景象,遇到需要讲解的展品,会主动进行介绍。也可以主动要求AI对眼前的展品做介绍或进行问答。
- 单击Agent区域中百炼应用下的主动导览,在右侧弹出的配置应用面板中填写功能名称、启动指令、触发之后的欢迎语和退出指令,然后单击确定。
-
主动陪伴:摄像头常开,会持续分析眼前景象(也会产生费用),支持功能如下:
- 手势互动:对着摄像头比动作,AI可快速进行动作、表情、语音回复的反馈。如果同时比动作和说话,优先响应说话内容。
- 打招呼:结合视觉信息,与用户互动(类似进入语),如对用户的着装进行点评、针对表情回复相应的夸赞或安抚、对用户手持物品表达兴趣、随机唠嗑等。
- 主动发起话题:结合用户情境(比如绘画/玩魔方、家中打扫卫生等)主动参与活动,发起话题。
- 单击主动陪伴应用,打开配置应用面板。在面板中设置启动指令、退出指令和欢迎语,并在支持能力区域勾选所需能力(手势互动、打招呼、主动发起话题),然后单击确定。
接入百炼平台Agent
-
可以接入您在阿里云百炼平台创建的Agent,以增强对话能力。
- 在技能配置的 Agent 区域,单击右上角+ 添加按钮,在弹出的添加应用对话框中,通过推荐应用或我的应用页签选择需要接入的百炼应用,选择完成后单击确定。
-
也可以前往百炼应用广场的AI硬件方案专区快速复制与您业务场景需求相似的模板,如穿戴设备的身体指标分析、教育场景的口语陪练等。详情请参考:百炼应用推荐模板。
-
-
接入百炼Agent时,您可以在配置页面开启「视觉理解」开关,当识别到对应意图,客户端可以上传图片给agent,实现多模态理解能力。
- 单击目标百炼应用右侧的配置按钮,在弹出的配置应用面板中将输出模式设为
agent_format,并开启底部的视频理解开关。
- 单击目标百炼应用右侧的配置按钮,在弹出的配置应用面板中将输出模式设为
接入三方Agent
-
支持客户开发的三方Agent接入,需基于Google A2A协议进行集成,详情请参考三方Agent接入。
- 在应用概览页面右上角,单击系统设置,在下拉菜单中选择三方应用进入三方 Agent 配置页面。
- 在Agent配置页面底部找到三方应用区域,单击+ 添加按钮,弹出三方应用选择面板。在面板中搜索并勾选需要接入的三方应用(如超级AI助理),完成添加。
-
Agent内部可以配置和语音助手不同的音色,但需要保持使用同一个模型。例如,语音助手选择通用的温柔女声,接入的童话故事Agent选择一个童声。当启动童话故事Agent时,系统自动切换为童声。
- 单击 Agent 右侧的音频配置图标,打开音色配置面板。关闭应用播报音色与主链路保持一致开关后,可分别选择语音合成模型(如 CosyVoice-v3-Flash 大模型)和音色(如龙安欢),单击确定完成配置。
-
接入三方Agent时,您可以在配置页面开启「视觉理解」开关,当识别到对应意图,客户端可以上传图片给agent,实现多模态理解能力。
- 在技能页签的三方应用列表中,单击目标应用的配置图标,打开配置应用面板,找到视频理解开关并开启。





