AI 在长对话中会遗忘关键信息,且跨会话没有记忆,导致上下文丢失、体验不连贯。为解决此痛点,我们引入了长期记忆功能。该功能可自动从历史对话中提炼并结构化存储记忆片段与用户画像。在后续对话或新会话中,开发者可以检索这些记忆并将其注入 Prompt,赋能 AI 实现真正的持续性理解。
核心功能
- 记忆片段:从对话自动提取关键内容并结构化存储为记忆片段;也可以直接指定要存入的记忆内容;支持基于历史对话检索和动态更新。
- 用户画像:基于自定义画像模板,从对话中提取结构化用户属性(如年龄、职业、兴趣等)。
适用范围
长期记忆功能通过开放的 API 接口,可接入任意应用,也支持多应用共享同一记忆库。
相比旧版长期记忆 API的改进
- 速度与效率高:拥有更低的延迟,更高的记忆检索召回效果。
- 自动提取能力:支持从对话中自动提取关键信息,自动去重,无需手动输入。
- 检索算法优化:新增语义检索能力,检索准确性显著提升,响应速度更快。
- 用户画像能力:新增完整的用户画像提取和管理能力。
使用方法
使用前需要配置环境变量DASHSCOPE_API_KEY,获取与配置方式请参考获取 API Key。
- 添加记忆片段
- 更新记忆片段
- 提取用户画像
- 建立记忆:通过
AddMemory保存上一轮对话内容,转换为记忆片段并构建语义索引。 - 检索记忆:通过
SearchMemory基于语义检索相关历史记忆。
top_k 设置在 3 到 10 之间,平衡性能和效果。- cURL
环境变量配置
环境变量 | 必需 | 默认值 | 说明 |
|---|---|---|---|
| 是 | - | 百炼 API 密钥,获取方式请参见获取 API Key |
API 参考
完整的 API 接口参考(包括请求参数、返回结果和示例代码),请参见长期记忆(新)API 参考。以下补充记忆规则管理和画像模板管理相关的 API。
记忆片段规则管理(Memory Project)
记忆片段规则的 plan_version 决定该规则下 Add 调用的策略版本。不传时默认 Pro。可通过以下 API 管理规则:
接口 | 方法 | 计费 | 说明 |
|---|---|---|---|
CreateMemoryProject | POST | — | 创建记忆片段规则,入参含 |
UpdateMemoryProject | PATCH | — | 更新规则,可修改 |
ListMemoryProjects | GET | — | 列出规则,出参含 |
GetMemoryProject | GET | — | 查询规则详情,出参含 |
SearchMemory | POST | Pro ¥0.001/次 | 检索记忆,入参 |
AddMemory | POST | Pro ¥0.03/次 | 写入记忆,策略版本由关联规则的 |
画像模板管理(Profile Schema)
画像模板的 plan_version 控制画像记忆的策略版本。不传时默认 Pro。可通过以下 API 管理画像模板:
接口 | 方法 | 计费 | 说明 |
|---|---|---|---|
CreateProfileSchema | POST | Pro ¥0.03/次 | 创建画像模板,入参含 |
ListProfileSchemas | GET | — | 列出画像模板,出参含 |
UpdateProfileSchema | PATCH | — | 更新画像模板,可修改 |
GetProfileSchema | GET | — | 查询画像模板详情,出参含 |
plan_version 当前仅作为字段透出,不影响画像提取的实际处理逻辑。后续版本可能根据 plan_version 区分画像记忆的写入策略版本。plan_version 参数规则
规则 | 说明 |
|---|---|
Add 策略版本来源 | 由关联的 MemoryProject 的 |
Search 策略版本来源 | 由请求参数 |
大小写 | 不敏感。"PRO"、"pro"、"Pro" 等效;"LITE"、"lite" 等效。 |
非法值 | 传入非 pro/lite 的值时返回报错。 |
优先级 | Search 同时传 |
更新生效范围 | 修改规则的 |
存量兼容 | 商业化前已存在的规则, |
相关文档
如需通过百炼控制台使用和管理本文介绍的长期记忆与用户画像功能,请参见记忆库。
常见问题
API 是否存在限流?
API 接口 | 限流(阿里云账号级别) |
|---|---|
全部接口 | 总计不超过 3000 QPM |
记忆片段 add 接口 | 120 QPM |
记忆片段 search 接口 | 300 QPM |
商业化计费相关
-
Pro 和 Lite 策略版本有什么区别?
Pro 版检索时开启 Rerank(结果重排序),质量更高;Lite 版关闭 Rerank,成本更低。Add 的策略版本由 MemoryProject 的
plan_version决定,Search 的策略版本由请求参数plan_version独立控制。详见记忆库计费标准。 -
SearchMemory 的 plan_version 和 MemoryProject 的 plan_version 是什么关系?
两者独立。SearchMemory 的
plan_version只影响本次检索调用,与 project 的策略版本无关。例如 project 为 lite,Search 传plan_version: "pro"时仍按 pro 计费并开启 Rerank。 -
plan_version 和 enable_rerank 同时传会怎样?
plan_version优先级更高。传了plan_version时enable_rerank被忽略。仅当未传plan_version时enable_rerank生效。