Skip to main content
阿里云百炼 home page阿里云百炼
文本生成

指定前缀续写（Partial Mode）

在代码补全、文本续写等场景中，需要模型从已有的文本片段（前缀）开始继续生成。Partial Mode 可提供精确控制能力，确保模型输出的内容紧密衔接提供的前缀，提升生成结果的准确性与可控性。

使用方式

需在messages 数组中将最后一条消息的 role 设置为 assistant，并在其 content 中提供前缀，在此消息中设置参数 "partial": true。messages格式如下： 
[
    {
        "role": "user",
        "content": "请补全这个斐波那契函数，勿添加其它内容"
    },
    {
        "role": "assistant",
        "content": "def calculate_fibonacci(n):\n    if n <= 1:\n        return n\n    else:\n",
        "partial": true
    }
]
模型会以前缀内容为起点开始生成。

支持的模型

  • 文本生成模型
    • 千问Max（非思考模式）：Qwen3.8-Max系列、Qwen3.7-Max系列、Qwen3.6-Max系列、Qwen3-Max系列、Qwen-Max系列
    • 千问Plus（非思考模式）：Qwen3.7-Plus系列、Qwen3.6-Plus系列、Qwen3.5-Plus系列、Qwen-Plus系列
    • 千问Flash（非思考模式）：Qwen3.7-Flash系列、Qwen3.6-Flash系列、Qwen3.5-Flash系列、Qwen-Flash系列
    • 千问Coder：Qwen3-Coder系列、Qwen2.5-Coder系列、Qwen-Coder系列
    • 千问Turbo（非思考模式）：Qwen-Turbo系列
    • Qwen3.6开源系列（非思考模式）
    • Qwen3.5开源系列（非思考模式）
    • Qwen3开源系列（非思考模式）
    • Qwen2.5开源系列
    • 千问Math：Qwen-Math系列、Qwen2.5-Math系列
    • DeepSeek（硅基流动部署）：siliconflow/deepseek-v3.2（非思考模式）、siliconflow/deepseek-v3.1-terminus（非思考模式）、siliconflow/deepseek-v3-0324
    • DeepSeek（快手万擎部署）：vanchin/deepseek-v3.2-think、vanchin/deepseek-r1、vanchin/deepseek-v3
  • 多模态模型
    • 千问VL：Qwen3-VL-Plus系列、Qwen3-VL-Flash系列、Qwen-VL-Max系列、Qwen-VL-Plus系列
    • Qwen3-VL 开源系列（非思考模式）
    • Kimi（月之暗面部署）：kimi/kimi-k3、kimi/kimi-k2.6、kimi/kimi-k2.5

快速开始

前提条件

已获取与配置 API Key并 配置API Key到环境变量。如果通过 OpenAI SDK 或 DashScope SDK 进行调用，需要安装SDK。如果您是子业务空间的成员，请确保超级管理员已为该业务空间进行 模型授权操作。
暂不支持 DashScope Java SDK。

示例代码

代码补全是 Partial Mode 的核心应用场景。以下示例演示如何补全一个 Python 函数。
  • OpenAI兼容
  • DashScope
  • Python
  • Node.js
  • curl
import os
from openai import OpenAI

# 1. 初始化客户端
client = OpenAI(
    # 若没有配置环境变量，请将下行替换为：api_key="sk-xxx"
    # 各地域的API Key不同。获取API Key：https://help.aliyun.com/zh/model-studio/get-api-key
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # 以下为华北2（北京）地域的URL，调用时请将 {WorkspaceId} 替换为您的百炼业务空间ID，各地域的URL不同。
    base_url="https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1",
)

# 2. 定义需要补全的代码前缀
prefix = """def calculate_fibonacci(n):
    if n <= 1:
        return n
    else:
"""

# 3. 发起 Partial Mode 请求
# 注意：messages 数组的最后一条消息 role 为 "assistant"，并包含 "partial": True
completion = client.chat.completions.create(
    model="qwen3.8-max",
    messages=[
        {"role": "user", "content": "请补全这个斐波那契函数，勿添加其它内容"},
        {"role": "assistant", "content": prefix, "partial": True},
    ],
)

# 4. 手动拼接前缀和模型生成的内容
generated_code = completion.choices[0].message.content
complete_code = prefix + generated_code

print(complete_code)

返回结果 

def calculate_fibonacci(n):
    if n <= 1:
        return n
    else:
        return calculate_fibonacci(n-1) + calculate_fibonacci(n-2)

使用示例

传入图片或视频

千问VL模型支持在输入图像、视频数据时进行前缀续写，可应用于产品介绍、社交媒体内容创作、新闻稿生成、创意文案等场景。
  • OpenAI兼容
  • DashScope
  • Python
  • Node.js
  • curl
import os
from openai import OpenAI

client = OpenAI(
    # 若没有配置环境变量，请用阿里云百炼API Key将下行替换为：api_key="sk-xxx",
    # 各地域的API Key不同。获取API Key：https://help.aliyun.com/zh/model-studio/get-api-key
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # 以下为华北2（北京）地域的URL，调用时请将 {WorkspaceId} 替换为您的百炼业务空间ID，各地域的URL不同。
    base_url="https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1",
)

completion = client.chat.completions.create(
    model="qwen3-vl-plus",
    messages=[
        {
            "role": "user",
            "content": [
                {
                    "type": "image_url",
                    "image_url": {
                        "url": "https://img.alicdn.com/imgextra/i3/O1CN01zFX2Bs1Q0f9pESgPC_!!6000000001914-2-tps-450-450.png"
                    },
                },
                {"type": "text", "text": "我要发社交媒体，请帮我想一下文案。"},
            ],
        },
        {
            "role": "assistant",
            "content": "今天发现了一家宝藏咖啡馆",
            "partial": True,
        },
    ],
)
print(completion.choices[0].message.content)

返回结果 

，这款提拉米苏简直是味蕾的享受！每一口都能感受到咖啡与奶油的完美融合，幸福感爆棚～ #美食分享 #提拉米苏 #咖啡时光

希望你喜欢这个文案！如果有任何修改需求，请随时告诉我。

基于不完整输出进行续写

如果大模型返回不完整的内容，可使用 Partial Mode 对不完整的内容续写，使其语义完整。大模型可能返回不完整内容的情况：
  • max_tokens参数设置过小，使模型返回被截断的内容。
  • 非流式输出触发超时，已生成的内容不完整。
    超时不再报错，而是将已生成内容返回，详情参见如何处理模型超时的情况。
  • OpenAI兼容
  • DashScope
  • Python
  • Node.js
import os
from openai import OpenAI

# 初始化客户端
client = OpenAI(
    # 若没有配置环境变量，请用阿里云百炼API Key将下行替换为：api_key="sk-xxx",
    # 各地域的API Key不同。获取API Key：https://help.aliyun.com/zh/model-studio/get-api-key
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    # 以下为华北2（北京）地域的URL，调用时请将 {WorkspaceId} 替换为您的百炼业务空间ID，各地域的URL不同。
    base_url="https://{WorkspaceId}.cn-beijing.maas.aliyuncs.com/compatible-mode/v1",
)

def chat_completion(messages,max_tokens=None):
    response = client.chat.completions.create(
        model="qwen-plus",
        messages=messages,
        max_tokens=max_tokens
    )
    print(f"###停止生成原因：{response.choices[0].finish_reason}")

    return response.choices[0].message.content

# 使用示例
messages = [{"role": "user", "content": "请写一个短篇科幻故事"}]

# 第一轮调用，设置max_tokens为40
first_content = chat_completion(messages, max_tokens=40)
print(first_content)
# 将第一轮的响应加入到assistant message，并设置partial=True
messages.append({"role": "assistant", "content": first_content, "partial": True})

# 第二轮调用
second_content = chat_completion(messages)
print("###完整内容：")
print(first_content+second_content)

返回结果

停止生成原因为length表示触发了max_tokens的限制；停止生成原因为stop表示大模型生成自然结束，或触发了stop参数。
###停止生成原因：length
**《记忆的尽头》**

在遥远的未来，地球早已不再适合人类居住。大气层被污染，海洋干涸，城市变成了废墟。人类被迫迁移到一颗名为“
###停止生成原因：stop
###完整内容：
**《记忆的尽头》**

在遥远的未来，地球早已不再适合人类居住。大气层被污染，海洋干涸，城市变成了废墟。人类被迫迁移到一颗名为“伊甸星”的宜居星球，那里有蔚蓝的天空、清新的空气和无尽的资源。

然而，伊甸星并非真正的天堂。它没有人类的历史，没有过去，也没有记忆。

......

**“如果我们忘记了自己是谁，我们还算是人类吗？”**

——完——

计费说明

根据请求的输入 Token 和输出 Token 计费。前缀部分作为输入 Token。

错误码

如果模型调用失败并返回报错信息，请参见错误码进行解决。
阿里云百炼 home page阿里云百炼
开始使用
产品计费
Token Plan
模型体验
接入客户端/开发工具
模型推理
模型调优
模型部署
模型评测
模型压缩目录节点
用量统计与性能监控
资产中心
模型数据
安全合规
实践教程
服务支持
产品动态