本文档以千问模型的部署为例进行说明,使用 API(HTTP)调用方式帮助您使用阿里云百炼提供的模型部署功能。
前提条件
- 您已经阅读了模型部署和使用 API 进行模型部署的相关内容,掌握了模型部署 API 的使用方法,并熟悉了在阿里云百炼平台上进行模型部署的基本步骤。
- 已配置百炼的 API-KEY, 请参考获取与配置 API Key。
获取可以部署的模型列表
请求示例
通过下面的命令可以查询支持部署的模型,推荐使用version=v1.0获取包含部署方案和模板信息的完整响应。
请求参数
参数 | 类型 | 传参方式 | 必选 | 说明 |
|---|---|---|---|---|
page_no | Number | query | 否 | 页码,默认值为1。 |
page_size | Number | query | 否 | 页大小,默认为50,最大值为100,最小值为1。 |
model_source | String | query | 否 | 模型来源。 |
version | String | query | 否 | API 版本,推荐使用 |
响应示例&参数
点击此处查看
点击此处查看
响应参数
参数 | 类型 | 说明 |
|---|---|---|
models | Array | 可部署模型列表。 |
models[].model_name | String | 模型名称。 |
models[].plans | Array | 该模型支持的部署方案列表。使用 |
models[].plans[].plan | String | 部署方案类型: |
models[].plans[].templates | Array | 部署模板列表( |
page_no | Number | 查询页码。 |
page_size | Number | 查询页大小。 |
total | Long | 满足查询条件的所有模型个数。 |
模板字段说明(templates)
参数 | 类型 | 说明 |
|---|---|---|
template_id | String | 模板 ID,在创建模型部署任务时作为 |
template_name | String | 模板显示名称。 |
template_type | String | 模板类型: |
template_version | String | 模板版本。 |
template_desc | String | 模板描述。 |
roles | Object | 节点角色配置。COUPLED 模式包含 |
roles 节点字段说明
参数 | 类型 | 说明 |
|---|---|---|
model_unit_spec | String | 模型单元规格。 |
capacity_unit_per_instance | Number | 单实例容量单元数,即 base_capacity。创建部署时 |
创建模型部署任务
请求示例
示例1:模型单元部署(COUPLED 模式)
使用 template_id 指定 MU1 规格,capacity 为资源单元数量:
示例2:模型单元部署(PD 分离模式)
使用 MU1-PD 模板,分别指定 prefill_capacity 和 decode_capacity:
示例3:PTU v2 部署
按 Token 用量计费:
示例4:LoRA 共享部署
按 Token 用量计费:
请求参数
参数 | 类型 | 传参方式 | 必选 | 说明 |
|---|---|---|---|---|
model_name | String | body | 是 | 待部署的模型名称。 |
plan | String | body | 是 | 部署方案: |
template_id | String | body | 条件必填 | 部署模板 ID,对应获取可以部署的模型列表接口返回的 |
deploy_spec(旧) | String | body | 否 | 模型单元规格,已废弃。 |
capacity | Number | body | 条件必填 | 资源单元数量。COUPLED 模式(非 PD 分离)必填,必须是 |
prefill_capacity | Number | body | 条件必填 | Prefill 容量。PD 分离模式( |
decode_capacity | Number | body | 条件必填 | Decode 容量。PD 分离模式( |
name | String | body | 否 | 服务显示名称。 |
suffix | String | body | 否 | 模型部署后将生成新的模型名称,suffix 用于指定新模型名称的后缀,最大长度为8个字符且需全局唯一。每个模型在首次部署时可以不指定后缀,多次部署同一模型时必须设置。 |
charge_type | String | body | 否 | 付费方式: |
pre_paid_info | Object | body | 条件必填 | 预付费信息, |
pre_paid_info.auto_renewal | Boolean | body | 是 | 是否自动续费 |
pre_paid_info.duration | Integer | body | 是 | 购买时长(月) |
pre_paid_info.auto_renewal_duration | Integer | body | 条件必填 | 自动续费时长(autoRenewal=true时必填) |
enable_thinking | Boolean | body | 否 | 是否启用思考模式,部分模型支持。 |
max_context_length | Number | body | 否 | 最大上下文长度,部分模型支持。 |
quantization_precision | String | body | 否 | 量化精度。 |
qpm_limit | Number | body | 否 | QPM 限流,每分钟请求数限制。仅 |
tpm_limit | Number | body | 否 | TPM 限流,每分钟 Token 使用量限制。仅 |
支持的模型
模型单元 部署模式下,限流、推理加速等功能的 支持情况 。
模型单元 部署模式下,限流、推理加速等功能的 支持情况 。
- 文本生成
- 多模态
- 语音合成
- 千问
- GLM
- DeepSeek
- 更多模型
模型名称 | 模型代码 | 模型单元规格 | 小时单价(元) 最小计费:分钟 | 包月单价(元) 最小计费:天 |
|---|---|---|---|---|
千问3.6-35B-A3B | qwen3.6-35b-a3b | MU1 x 8 | ¥432 | ¥208,944 |
MU2 x 8 | ¥504 | ¥240,288 | ||
MU3 x 8 | ¥1,096 | ¥527,752 | ||
MU9 x 1 | ¥51 | ¥24,600 | ||
千问3.6-27B | qwen3.6-27b | MU9 x 1 | ¥51 | ¥24,600 |
千问3.6-Flash-2026-04-16 | qwen3.6-flash-2026-04-16 | MU1 x 2 | ¥108 | ¥52,236 |
MU3 x 8 | ¥1,096 | ¥527,752 | ||
千问3.6-Plus-2026-04-02 | qwen3.6-plus-2026-04-02 | MU1 x 8 MU1 x 16(PD分离模式) | ¥432 PD分离模式:¥864 | ¥208,944 PD分离模式:¥417,888 |
千问3.5-397B-A17B | qwen3.5-397b-a17b | MU3 x 8 MU3 x 16(PD分离模式) | ¥1,096 PD分离模式:¥2,192 | ¥527,752 PD分离模式:¥1,055,504 |
MU6 x 16 | ¥400 | ¥193,424 | ||
千问3.5-122B-A10B | qwen3.5-122b-a10b | MU1 x 4 | ¥216 | ¥104,472 |
MU6 x 16 | ¥400 | ¥193,424 | ||
千问3.5-35B-A3B | qwen3.5-35b-a3b | MU1 x 2 | ¥108 | ¥52,236 |
MU2 x 8 | ¥504 | ¥240,288 | ||
MU3 x 8 | ¥1,096 | ¥527,752 | ||
MU9 x 1 | ¥51 | ¥24,600 | ||
千问3.5-27B | qwen3.5-27b | MU2 x 8 | ¥504 | ¥240,288 |
MU3 x 8 | ¥1,096 | ¥527,752 | ||
MU8 x 1 | ¥47 | ¥22,400 | ||
MU9 x 1 | ¥51 | ¥24,600 | ||
千问3.5-9B | qwen3.5-9b | MU2 x 2 | ¥126 | ¥60,072 |
千问3.5-Flash-2026-02-23 | qwen3.5-flash-2026-02-23 | MU1 x 2 | ¥108 | ¥52,236 |
千问3.5-Plus-2026-02-15 | qwen3.5-plus-2026-02-15 | MU1 x 8 MU1 x 16(PD分离模式) | ¥432 PD分离模式:¥864 | ¥208,944 PD分离模式:¥417,888 |
MU2 x 8 | ¥504 | ¥240,288 | ||
MU3 x 8 MU3 x 16(PD分离模式) | ¥1,096 PD分离模式:¥2,192 | ¥527,752 PD分离模式:¥1,055,504 | ||
千问3-235B-A22B-Instruct-2507 | qwen3-235b-a22b-instruct-2507 | MU1 x 4 | ¥216 | ¥104,472 |
MU2 x 8 | ¥504 | ¥240,288 | ||
MU3 x 8 | ¥1,096 | ¥527,752 | ||
千问3-32B | qwen3-32b | MU6 x 16 | ¥400 | ¥193,424 |
千问3-30B-A3B-Thinking-2507 | qwen3-30b-a3b-thinking-2507 | MU1 x 2 | ¥108 | ¥52,236 |
千问3-8B | qwen3-8b | MU1 x 2 | ¥108 | ¥52,236 |
MU2 x 2 | ¥126 | ¥60,072 | ||
千问3-4B | qwen3-4b | MU1 x 2 | ¥108 | ¥52,236 |
MU5 x 1 | ¥21 | ¥10,139 | ||
千问3-Embedding-0.6B | qwen3-embedding-0.6b | MU5 x 1 | ¥21 | ¥10,139 |
MU6 x 1 | ¥25 | ¥12,089 | ||
千问3-MoE-Rerank-0.6B | qwen3-moe-rerank-0.6b | MU5 x 1 | ¥21 | ¥10,139 |
千问3-Rerank-0.6B | qwen3-rerank-0.6b | MU5 x 1 | ¥21 | ¥10,139 |
MU6 x 1 | ¥25 | ¥12,089 | ||
千问3-Max-2025-09-23 | qwen3-max-2025-09-23 | MU2 x 8 | ¥504 | ¥240,288 |
MU3 x 8 | ¥1,096 | ¥527,752 | ||
千问3-Rerank | qwen3-rerank | MU5 x 1 | ¥21 | ¥10,139 |
千问2.5-开源版-72B | qwen2.5-72b-instruct | MU1 x 8 | ¥432 | ¥208,944 |
千问2.5-开源版-14B | qwen2.5-14b-instruct | MU1 x 2 | ¥108 | ¥52,236 |
千问2.5-开源版-7B | qwen2.5-7b-instruct | MU1 x 2 | ¥108 | ¥52,236 |
MU5 x 1 | ¥21 | ¥10,139 | ||
千问-Plus-2025-07-28 | qwen-plus-2025-07-28 | MU1 x 4 MU1 x 16(PD分离模式) | ¥216 PD分离模式:¥864 | ¥104,472 PD分离模式:¥417,888 |
千问-Plus-2025-12-01 | qwen-plus-2025-12-01 | MU1 x 4 | ¥216 | ¥104,472 |
Qwen-Plus-Character-2025-11-06 | qwen-plus-character-2025-11-06 | MU1 x 4 | ¥216 | ¥104,472 |
- Instruct - 模型部署后以非思考模式进行推理。
- Thinking - 模型部署后以思考模式进行推理。
- PD 分离模式 - 降低首 Token 延迟、提高吞吐。 该部署模式部署的模型在进行模型推理时,将首 Token 计算(Prefill)和后续 Token 计算(Decode)两个计算阶段,拆到不同的计算节点执行。
响应示例&参数
点击此处查看
点击此处查看
参数 | 类型 | 说明 |
|---|---|---|
request_id | String | 本次请求的 ID。 |
output | Object | 本次部署任务的详细信息。 |
deployed_model | String | 新模型的唯一标识,在发起模型调用请求时需要在 SDK 参数传入。 |
name | String | 服务显示名称。 |
model_name | String | 部署任务使用的模型名称。 |
base_model | String | 部署任务使用的模型对应的基础模型 ID。 |
status | String | 部署任务的状态。
|
capacity | Number | 部署任务的目标资源单元数量。 |
ready_capacity | Number | 已就绪并可立即处理请求的资源单元数量。 |
base_capacity | Number | 单实例基础容量。 |
workspace_id | String | 部署任务所属的业务空间 ID。 |
charge_type | String |
|
plan | String | 部署任务的计费模式。 |
model_unit_spec | String | 模型单元规格。 |
gmt_create | String | 创建部署任务的时间。 |
gmt_modified | String | 修改部署任务的时间。 |
creator | String | 该部署任务创建人 UID。 |
modifier | String | 对该部署任务进行最后一次操作的账号 UID。 |
fail_reason | String | 失败原因(仅 FAILED 状态返回)。 |
enable_thinking | Boolean | 是否开启思考模式,部分模型支持。 |
max_context_length | Number | 最大上下文长度限制。 |
qpm_limit | Number | QPM 限流,每分钟请求数。 |
tpm_limit | Number | TPM 限流,每分钟 Token 使用量。 |
quantization_precision | String | 量化精度。 |
仅模型单元(mu)部署方式响应 | ||
mu_capacity | Object | MU 容量详情。COUPLED 模式包含 |
pre_paid_info | Object | 预付费信息。 |
pre_paid_info.auto_renewal | Boolean | 是否自动续费 |
pre_paid_info.duration | Integer | 购买时长(月) |
pre_paid_info.auto_renewal_duration | Integer | 自动续费时长 |
pre_paid_instance_id | String | 预付费实例 ID。 |
pre_paid_gmt_expired | String | 预付费过期时间。 |
仅预置吞吐量V2(ptu_v2)部署方式响应 | ||
ptu_capacity | Object | PTU V2 容量信息。包含字段:
|
pre_paid_info | Object | 预付费信息。 |
pre_paid_info.auto_renewal | Boolean | 是否自动续费 |
pre_paid_info.duration | Integer | 购买时长(月) |
pre_paid_info.auto_renewal_duration | Integer | 自动续费时长 |
pre_paid_instance_id | String | 预付费实例 ID。 |
pre_paid_gmt_expired | String | 预付费过期时间。 |
查询模型部署任务
请求示例
请求参数
参数 | 类型 | 传参方式 | 必选 | 说明 |
|---|---|---|---|---|
deployed_model | String | path | 是 | 部署模型的唯一标识,可通过创建模型部署任务或列举模型部署任务获取。 |
响应示例&参数
点击此处查看
点击此处查看
响应参数
响应参数与创建模型部署任务的响应参数一致,请参考创建模型部署任务的响应参数说明。列举模型部署任务
请求示例
请求参数
参数 | 类型 | 传参方式 | 必选 | 说明 |
|---|---|---|---|---|
age_no | Number | query | 否 | 页码,默认值为1。 |
page_size | Number | query | 否 | 页大小,默认为10,最大值为100。 |
响应示例&参数
点击此处查看
点击此处查看
响应参数
参数 | 类型 | 说明 |
|---|---|---|
page_no | Number | 查询页码。 |
page_size | Number | 查询页大小。 |
total | Long | 满足查询条件的所有部署任务总数。 |
deployments | Array | 部署任务列表。每个元素的字段与创建模型部署任务的响应参数一致,请参考创建模型部署任务的响应参数说明。 |
更新模型部署任务
请求示例
COUPLED 模式扩缩容:
请求参数
参数 | 类型 | 传参方式 | 必选 | 说明 |
|---|---|---|---|---|
deployed_model | String | path | 是 | 部署模型的唯一标识。 |
capacity | Number | body | 条件必填 | 扩缩容的目标资源单元数量。COUPLED 模式(非 PD 分离)时必填,必须是 |
prefill_capacity | Number | body | 条件必填 | Prefill 目标容量。PD 分离模式时必填。 |
decode_capacity | Number | body | 条件必填 | Decode 目标容量。PD 分离模式时必填。 |
ptu_capacity | Object | body | 条件必填 | PTU V2 容量信息。包含字段:
|
响应示例&参数
点击此处查看
点击此处查看
响应参数
响应参数与创建模型部署任务的响应参数一致,请参考创建模型部署任务的响应参数说明。停止部署的模型
请求示例
请求参数
参数 | 类型 | 传参方式 | 必选 | 说明 |
|---|---|---|---|---|
deployed_model | String | path | 是 | 部署模型的唯一标识。 |
响应示例&参数
点击此处查看
点击此处查看
响应参数
响应参数与创建模型部署任务的响应参数一致,请参考创建模型部署任务的响应参数说明。重新启动部署的模型
请求示例
请求参数
参数 | 类型 | 传参方式 | 必选 | 说明 |
|---|---|---|---|---|
deployed_model | String | path | 是 | 部署模型的唯一标识,可通过创建模型部署任务或列举模型部署任务获取。 |
响应示例&参数
点击此处查看
点击此处查看
启动后状态为STARTING,模型可调用后变为RUNNING
响应参数
响应参数与创建模型部署任务的响应参数一致,请参考创建模型部署任务的响应参数说明。删除模型部署任务
请求示例
请求参数
参数 | 类型 | 传参方式 | 必选 | 说明 |
|---|---|---|---|---|
deployed_model | String | path | 是 | 部署模型的唯一标识。 |
响应示例&参数
点击此处查看
点击此处查看
响应参数
响应参数与创建模型部署任务的响应参数一致,请参考创建模型部署任务的响应参数说明。异常响应
响应参数
参数 | 类型 | 说明 |
|---|---|---|
request_id | String | 本次请求的系统生成 ID。 |
code | String | 错误码,标识错误类型。 |
message | String | 错误详情,用于问题排查。 |
常见错误
错误原因 | 说明 |
|---|---|
| 参数错误,如缺少必填参数、参数值不合法、template_id 和 deploy_spec 同时传入等。 |
| 权限不足或资源不存在。 |
| 当前状态不允许执行该操作,如在非 RUNNING 状态下执行扩缩容,或在非 STOPPED/FAILED 状态下删除。 |
| 当前部署方案不支持该操作,如 cu 方式不支持停止服务。 |
| 资源库存不足,无法完成扩容或部署。 |
| 内部错误。 |
| 指定的部署任务不存在。 |
| 操作冲突,如服务正在进行其他操作。 |