Skip to main content
阿里云百炼 home page阿里云百炼
模型部署

部署模型管理

部署模型管理接口， 适用于文本、图像、视频、语音等所有模型类型 。支持查询部署状态、获取可部署模型列表与部署列表、修改限流、扩缩容及删除部署。

适用范围

DTU 计费模式的部署暂不支持通过本组 API 创建与管理，请在控制台操作，详见 DTU 模型部署。

查询部署模型状态

查询指定部署模型的详细信息和运行状态。可轮询此接口，当任务状态status变为RUNNING时，表示模型已部署成功。
模型部署过程预计需要 5～10分钟。

地址 

GET https://dashscope.aliyuncs.com/api/v1/deployments/{deployed_model}

请求示例

通过以下命令可以查询指定专属服务的详细信息： 
curl "https://dashscope.aliyuncs.com/api/v1/deployments/qwen-plus-202305099980-fac9-sample" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

请求参数

参数

类型

传参方式

必选

说明

deployed_model

String

path

是

部署模型的唯一标识，可通过部署模型或查询部署模型列表接口获取。

响应示例

关注status字段。当状态变为 RUNNING 时，表示模型已部署成功，可以开始调用。 
{
  "request_id": "66a855f0-a6fe-4b05-9786-fb30c7c6782d",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:06:13",
    "status": "RUNNING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 1,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3***",
    "charge_type": "post_paid",
    "creator": "175805416***",
    "modifier": "175805416***"
  }
}

响应参数

字段

类型

描述

request_id

String

请求的唯一标识符。

output

Object

任务详情。

output.deployed_model

String

部署模型的唯一标识。用于查询模型部署状态和调用模型。

output.model_name

String

模型标识名。

output.base_model

String

使用的基准模型。

output.status

String

部署状态：

  • PENDING：正在创建部署任务。

  • RUNNING：部署任务正在运行，模型可正常处理请求。

  • UPDATING：变配中。

  • UPDATING_FAILED：变配失败。

  • DELETING：正在删除部署任务。

  • DELETED：已删除。

  • FAILED：部署任务创建或更新失败。

  • STOPPED：部署任务已停止，不会被计费。

  • ARREARS_DOWN：欠费停服。

  • ARREARS_RECOVERING：欠费停服恢复中。

  • OFFLINING：服务下线中。

output.base_capacity

Number

基础资源单元数量。

output.capacity

Number

当前资源单元数量。

output.ready_capacity

Number

已就绪的资源单元数量。

output.workspace_id

String

阿里云百炼 API Key 所属的业务空间 ID。请参见获取Workspace ID。

output.charge_type

String

付费模式。post_paid 表示后付费。

output.gmt_create

String

部署任务创建时间。

output.gmt_modified

String

部署任务更新时间。

output.creator

String

创建人的阿里云账号 ID。

output.modifier

String

修改人的阿里云账号 ID。

output.plan

String

部署方式。

获取可部署模型列表

获取百炼平台上有资格部署的候选模型清单，即哪些模型可以用来创建部署。

地址 

GET https://dashscope.aliyuncs.com/api/v1/deployments/models

请求示例

通过下面的命令可以查询支持部署的模型，推荐使用version=v1.0获取包含部署方案和模板信息的完整响应。 
curl "https://dashscope.aliyuncs.com/api/v1/deployments/models?page_no=1&page_size=100&version=v1.0&model_source=base" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'
查询用户调优模型： 
curl "https://dashscope.aliyuncs.com/api/v1/deployments/models?page_no=1&page_size=100&version=v1.0&model_source=custom" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

请求参数

参数

类型

必选

说明

page_no

Number

否

页码，默认值为1。

page_size

Number

否

页大小，默认为50，最大值为100，最小值为1。

model_source

String

否

模型来源。base表示系统模型（默认），custom表示用户调优模型。

version

String

否

API 版本，推荐使用v1.0。使用v1.0时，响应中将包含完整的部署方案和模板信息。

响应示例

命令执行完成后，获得以下结果： 
{
    "request_id": "f7da015c-ea90-4d96-af89-2f8d7604026a",
    "output": {
        "page_no": 1,
        "page_size": 100,
        "total": 5,
        "models": [
            {
                "model_name": "qwen3-8b",
                "plans": [
                    {
                        "plan": "mu",
                        "templates": [
                            {
                                "template_id": "MU1",
                                "template_name": "单机部署-标准推理型",
                                "template_type": "COUPLED",
                                "template_version": "v1",
                                "template_desc": "适用于标准推理场景",
                                "roles": {
                                    "unified": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    }
                                }
                            },
                            {
                                "template_id": "MU1-PD",
                                "template_name": "PD分离部署-标准推理型",
                                "template_type": "SEPERATED",
                                "template_version": "v1",
                                "template_desc": "适用于PD分离推理场景",
                                "roles": {
                                    "prefill": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    },
                                    "decode": {
                                        "model_unit_spec": "MU1",
                                        "capacity_unit_per_instance": 4
                                    }
                                }
                            }
                        ]
                    },
                    {
                        "plan": "lora"
                    }
                ]
            }
        ]
    }
}

响应参数

参数

类型

说明

models

Array

可部署模型列表。

models[].model_name

String

模型名称。

models[].plans

Array

该模型支持的部署方案列表。使用version=v1.0时返回。

models[].plans[].plan

String

部署方案类型：mu（模型单元）、cu（算力单元）、ptu（预置吞吐量）、lora（LoRA共享部署）。

models[].plans[].templates

Array

部署模板列表（plan=mu时返回）。

models[].plans[].templates[].template_id

String

模板 ID，在创建模型部署任务时作为deploy_spec参数传入。

models[].plans[].templates[].template_name

String

模板显示名称。

models[].plans[].templates[].template_type

String

模板类型：COUPLED（非 PD 分离，使用capacity参数）、SEPERATED（PD 分离，使用prefill_capacity和decode_capacity参数）。

models[].plans[].templates[].template_version

String

模板版本。

models[].plans[].templates[].template_desc

String

模板描述。

models[].plans[].templates[].roles

Object

节点角色配置。COUPLED 模式包含unified节点，SEPERATED 模式包含prefill和decode节点。

models[].plans[].templates[].roles.{role}.model_unit_spec

String

模型单元规格。

models[].plans[].templates[].roles.{role}.capacity_unit_per_instance

Number

单实例容量单元数，即 base_capacity。创建部署时capacity必须是该值的整数倍。

page_no

Number

查询页码。

page_size

Number

查询页大小。

total

Long

满足查询条件的所有模型个数。

获取已部署模型列表

获取已创建的部署实例列表，即当前工作空间下实际运行或已部署的模型服务。

地址 

GET https://dashscope.aliyuncs.com/api/v1/deployments

请求示例

通过以下命令可以获取专属服务列表： 
curl "https://dashscope.aliyuncs.com/api/v1/deployments?page_no=1&page_size=100" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

请求参数

参数

类型

传参方式

必选

说明

page_no

Number

query

否

页码，默认值为1。

page_size

Number

query

否

页大小，默认为50，最大值为200，最小值为1。

响应示例

命令执行完成后，返回以下结果： 
{
  "request_id": "7efdd3a7-a90d-96c6-b477-70055d59edf7",
  "output": {
    "page_no": 1,
    "page_size": 10,
    "total": 1,
    "deployments": [
      {
        "deployed_model": "emo-35b3f106-sample01",
        "gmt_create": "2025-06-17T11:00:38",
        "gmt_modified": "2025-06-17T11:06:13",
        "status": "RUNNING",
        "model_name": "emo",
        "base_model": "emo",
        "base_capacity": 1,
        "capacity": 1,
        "ready_capacity": 1,
        "workspace_id": "llm-v71tlv3d***",
        "charge_type": "post_paid",
        "creator": "175805416***",
        "modifier": "175805416***"
      }
    ]
  }
}

响应参数

字段

类型

描述

request_id

String

本次请求的系统唯一码。

output.page_no

Number

当前页码。

output.page_size

Number

每页数量。

output.total

Number

部署总数。

output.deployments

Array

部署模型列表，每个元素的字段与查询部署模型状态的 output 字段一致。

修改部署模型的限流

修改指定部署模型的 RPM（每分钟请求数）和 TPM（每分钟 Token 数）限流设置。
仅模型单元部署方式的部分模型支持修改设置 rpm 和 tpm。

地址 

PUT https://dashscope.aliyuncs.com/api/v1/deployments/{deployed_model}/update

请求示例

通过以下命令可以修改指定部署的限流设置： 
curl -X PUT "https://dashscope.aliyuncs.com/api/v1/deployments/qwen-plus-2025-12-01-b6d61c71/update" \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
    "rpm_limit": 1000,
    "tpm_limit": 200
}'

请求参数

参数

类型

传参方式

必选

说明

deployed_model

String

path

是

部署模型的唯一标识，可通过部署模型或查询部署模型列表接口获取。

rpm_limit

Number

body

至少填写一个参数

Requests per minute，每分钟请求数。

tpm_limit

Number

body

Token per minute，每分钟 Token 使用量。

响应示例

命令执行完成后，返回如下结果： 
{
    "request_id": "1d121fd9-876c-40ad-bc40-a9e68ef3b986",
    "output":
    {
        "deployed_model": "qwen-plus-2025-12-01-b6d61c71",
        "gmt_create": "2026-01-07T13:52:44",
        "gmt_modified": "2026-01-07T14:01:41",
        "status": "PENDING",
        "model_name": "qwen-plus-2025-12-01",
        "base_model": "qwen-plus-2025-12-01",
        "base_capacity": 4,
        "capacity": 4,
        "ready_capacity": 0,
        "workspace_id": "llm-8v53e*******",
        "charge_type": "post_paid",
        "creator": "16542902******",
        "modifier": "16542902********",
        "plan": "mu",
        "model_unit_spec": "MU1",
        "enable_thinking": true,
        "max_context_length": 1,
        "rpm_limit": 1000,
        "tpm_limit": 200
    }
}

响应参数

除查询部署模型状态中列出的基础字段外，还可能包含以下字段：

字段

类型

描述

output.plan

String

部署方式。

output.model_unit_spec

String

模型单元部署模板，如 MU1。

output.enable_thinking

Boolean

是否开启思考模式。

output.max_context_length

Number

最大上下文长度。

output.rpm_limit

Number

每分钟请求数限制。

output.tpm_limit

Number

每分钟 Token 数限制。

扩缩容部署服务

通过更新操作调整专属服务使用的资源单元数量。

地址 

PUT https://dashscope.aliyuncs.com/api/v1/deployments/{deployed_model}/scale

请求示例

通过以下命令可以将指定的服务进行扩缩容： 
curl --request PUT "https://dashscope.aliyuncs.com/api/v1/deployments/emo-35b3f106-sample01/scale" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json' \
    --data '{
                "capacity":2
            }'

请求参数

参数

类型

必选

说明

deployed_model

String

是

部署模型的唯一标识（path 参数），可通过部署模型或查询部署模型列表接口获取。

capacity

Integer

条件必选

仅"plan": "mu"时生效。具体支持情况请参考模型单元部署的功能支持情况。

更新后模型所使用的资源单元数量，必须是base_capacity的整数倍。

ptu_capacity

Object

条件必选

仅"plan": "ptu"时生效。具体支持情况请参考PTU部署的功能支持情况。

样例："ptu_capacity": { "input_tpm": 10000, "output_tpm": 1000 }。

ptu_capacity.input_tpm

Number

条件必选

仅"plan": "ptu"时生效。具体支持情况请参考PTU部署的功能支持情况。

部署的模型每分钟支持的最大输入 Token 量（input tokens per minute）。所有模型支持。

ptu_capacity.output_tpm

Number

条件必选

仅"plan": "ptu"时生效。具体支持情况请参考PTU部署的功能支持情况。

部署的模型每分钟支持的最大输出 Token 量（output tokens per minute）。所有模型支持。

ptu_capacity.thinking_output_tpm

Number

否

仅"plan": "ptu"时生效。具体支持情况请参考PTU部署的功能支持情况。

部署的模型每分钟支持的预置思考最大输出 Token 量（thinking output tokens per minute）。部分模型支持。

响应示例

命令执行完成后，返回以下结果： 
{
  "request_id": "6c6b7676-3fea-423b-bc26-c9e2337e1142",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:42:02.311",
    "status": "UPDATING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 2,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3dezezp2en",
    "charge_type": "post_paid",
    "creator": "17580541***",
    "modifier": "17580541***"
  }
}

响应参数

响应字段与查询部署模型状态一致，请参考查询部署模型状态的响应参数。

删除部署

删除指定的部署模型，释放对应的计算资源。
执行该操作后，模型部署服务将立即下线且不可恢复：
  1. 模型将无法调用。
  2. 部署服务停止计费。

地址 

DELETE https://dashscope.aliyuncs.com/api/v1/deployments/{deployed_model}

请求示例

通过以下命令可以删除指定的部署任务。 
curl --request DELETE "https://dashscope.aliyuncs.com/api/v1/deployments/emo-35b3f106-sample01" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'

请求参数

参数

类型

传参方式

必选

说明

deployed_model

String

path

是

部署模型的唯一标识，可通过部署模型或查询部署模型列表接口获取。

响应示例

关注status字段。当状态变为 DELETING 时，表示正在删除部署任务。 
{
  "request_id": "5378b78b-8564-481f-a3e0-580e551df22c",
  "output": {
    "deployed_model": "emo-35b3f106-sample01",
    "gmt_create": "2025-06-17T11:00:38",
    "gmt_modified": "2025-06-17T11:42:02",
    "status": "DELETING",
    "model_name": "emo",
    "base_model": "emo",
    "base_capacity": 1,
    "capacity": 2,
    "ready_capacity": 1,
    "workspace_id": "llm-v71tlv3***",
    "charge_type": "post_paid",
    "creator": "175805416***",
    "modifier": "175805416***"
  }
}
之后，再调用查询部署模型状态进行验证。若返回如下内容，说明部署的服务已不存在，删除成功。 
{
    "request_id": "eb619064-0c4f-4d29-aa49-xxxxxx",
    "message": "Not found.",
    "code": "NotFound"
}

响应参数

响应字段与查询部署模型状态一致，请参考查询部署模型状态的响应参数。

异常响应

响应示例 

{
    "request_id": "ca218d57-b91b-46b2-bd35-c41c6287bcf4",
    "message": "Model: qwen-plus-20230703-cx7f not found!",
    "code": "NotFound"
}

响应参数

字段

类型

描述

request_id

String

本次请求的系统唯一码。

code

String

错误码。

message

String

错误信息。

当请求出错时，可能返回以下错误：

错误码

错误信息

错误原因

NotFound

Model: xxx not found!

  • 创建部署任务时指定了不存在的模型。

  • 查询/更新/删除部署任务时指定了不存在的模型。

Conflict

Deployed model xxx already exists, please specify a suffix.

创建部署任务时使用了已使用过的suffix。

InvalidParameter

Invalid capacity (xx), capacity must be larger than or equal to 0 and multiples of 1 and less than 1000!

创建/更新部署任务时指定了无效的算力单元数量。

阿里云百炼 home page阿里云百炼
使用 API
文本生成
图像生成
视频生成
3D模型生成
音频
实时多模态
Realtime API
  • 概述
向量与排序
更多模型
工具包/框架
模型生产
文件管理
更多