Skip to main content

API 部署指南

本文档以千问模型的部署为例,使用 API(HTTP)调用方式帮助您完成阿里云百炼模型部署的全流程操作,包括部署、查询、推理、删除及权限排查。

本文档仅适用于华北2(北京)地域。

前提条件

  • 您已经完整阅读了模型部署,熟悉阿里云百炼平台模型部署支持的模型和基本步骤。
  • 您需要已获取与配置 API Key并配置API Key到环境变量。示例代码中的 DASHSCOPE_API_KEY 请替换为您自己的百炼 API Key;若使用 dashscope CLI,还需将 DASHSCOPE_HTTP_BASE_URL 替换为您获取的 API Host。

1. 部署模型

下面的命令展示如何创建专属服务。其中,按 Token 计费的示例使用已经调优好的自定义模型qwen3-8b-ft-202511132025-0260,创建一个专属服务qwen3-8b-ft-202511132025-0260;按预置吞吐和按模型单元的示例使用预置模型。 获取自定义模型 ID 的方法:前往百炼控制台-模型调优,点击需要部署的任务名称 -> 产出 -> 点击蓝色字体的模型名称,进入我的模型页面,在模型基本信息区域可查看模型 ID。 使用模型 ID作为输入的model_name参数,即可使用 API 部署该模型。
  • 按预置吞吐(PTU)计费
  • 按模型单元的使用时长计费
  • 按模型 Token 使用量计费
  • dashscope CLI
执行以下部署命令后,即便您还没有调用模型,模型部署服务仍将在部署成功后开始计费。建议您先确认服务计费规则,再执行部署命令。
按预置吞吐计费模式按预置吞吐的使用时长收费,适用于追求稳定吞吐保障和高并发低延迟、且流量可预估的场景。该模式下,吞吐/并发和生成速度均为平台预置,用户不可调。
curl "https://dashscope.aliyuncs.com/api/v1/deployments" \
--header "Authorization: Bearer $DASHSCOPE_API_KEY" \
--header 'Content-Type: application/json' \
--data '{
    "name": "my_qwen_flash",
    "model_name": "qwen-flash-2025-07-28",
    "plan": "ptu",
    "ptu_capacity": {
        "input_tpm": 10000,
        "output_tpm": 1000
    }
}'
命令执行成功后,返回如下结果:(以模型单元部署为例)
{
    "request_id": "83b173ab-2b2f-41aa-8c57-b173e8be934e",
    "output":
    {
        "deployed_model": "qwen3-8b-ft-202511132025-0260",
        "gmt_create": "2025-11-20T20:06:46.405",
        "gmt_modified": "2025-11-20T20:06:46.405",
        "status": "PENDING",
        "model_name": "qwen3-8b-ft-202511132025-0260",
        "base_model": "qwen3-8b",
        "workspace_id": "llm-8v*****",
        "charge_type": "post_paid",
        "creator": "16542*****",
        "modifier": "16542*****",
        "plan": "mu",
        "model_unit_spec": "MU1"
    }
}
其中deployed_model为专属服务的唯一ID,后续查询、删除等接口 path 中的标识请使用该deployed_model值(非请求参数中的name)。

2. 查询服务状态

通过以下命令查询指定专属服务的详细信息:
curl "https://dashscope.aliyuncs.com/api/v1/deployments/qwen3-8b-ft-202511132025-0260" \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'
命令执行成功后,返回如下结果:
{
    "request_id": "ca36952d-9136-426e-ab08-68a97ad72719",
    "output":
    {
        "deployed_model": "qwen3-8b-ft-202511132025-0260",
        "gmt_create": "2025-11-20T20:32:08",
        "gmt_modified": "2025-11-20T20:42:25",
        "status": "RUNNING",
        "model_name": "qwen3-8b-ft-202511132025-0260",
        "base_model": "qwen3-8b",
        "base_capacity": 2,
        "capacity": 2,
        "ready_capacity": 2,
        "workspace_id": "llm-8v53etv3hwb8orx1",
        "charge_type": "post_paid",
        "creator": "1654290265984853",
        "modifier": "1654290265984853",
        "plan": "mu",
        "model_unit_spec": "MU1"
    }
}
当服务状态为RUNNING时,服务部署完成。

3. 执行推理请求

若首次使用DashScope SDK,请参考安装SDK。请确保 API Key 所在的业务空间与模型部署所在的业务空间相同。
调用已部署的专属服务时,model 参数取值应为模型部署成功后的模型 code,请前往专属部署控制台(北京)获取。
import os
import dashscope

messages = [
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "你是谁?"},
]
response = dashscope.Generation.call(
    # 若没有配置环境变量,请用百炼API Key将下一行替换为:api_key="sk-xxx",
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    model="qwen3-14b-xxx-xxx",  # 请替换为模型部署成功后的code
    messages=messages,
    result_format="message",
    enable_thinking=False,
)
print(response)

推理参数对齐

百炼推理引擎的参数默认值可能与本地推理框架不同。为对齐 vLLM 默认值,建议调用时参考下表设置参数;使用 SGLang 等其他框架请参考对应文档调整。

参数名称

推荐值(对应 vLLM 默认值)

temperature

取值范围 [0, 2),设置为 1.0 等同于 vLLM 引擎默认值。

top_p

取值范围 (0, 1.0],设置为 1.0 等同于 vLLM 引擎默认值。

top_k

取值为 None 或大于 100 时不启用 top_k 策略,仅 top_p 生效;设置为 99 不支持全采样,接近 vLLM 默认值 0(全采样)。

presence_penalty

取值范围 [-2.0, 2.0],设置为 0 等同于 vLLM 引擎默认值。

repetition_penalty(DashScope 协议)

提高可降低生成重复度,1.0 表示不惩罚;取值范围大于 0,设置为 1.0 等同于 vLLM 引擎默认值。

4. 删除专属服务

执行以下删除命令后,模型部署服务将立即开始下线,且不可恢复。您将:
  1. 无法调用该模型。
  2. 部署服务停止计费。
不再使用的专属服务,可以通过下面的命令删除:
curl --request DELETE 'https://dashscope.aliyuncs.com/api/v1/deployments/qwen3-8b-ft-202511132025-0260' \
    --header "Authorization: Bearer $DASHSCOPE_API_KEY" \
    --header 'Content-Type: application/json'
命令执行成功后,返回以下结果:
{
    "request_id": "8f726017-6042-420e-a465-0d366a3aba59",
    "output":
    {
        "deployed_model": "qwen3-8b-ft-202511132025-0260",
        "gmt_create": "2025-11-20T20:32:08",
        "gmt_modified": "2025-11-27T16:35:31.591",
        "status": "DELETING",
        "model_name": "qwen3-8b-ft-202511132025-0260",
        "base_model": "qwen3-8b",
        "base_capacity": 2,
        "capacity": 2,
        "ready_capacity": 2,
        "workspace_id": "llm-8v53etv3hwb8orx1",
        "charge_type": "post_paid",
        "creator": "1654290265984853",
        "modifier": "1654290265984853",
        "plan": "mu",
        "model_unit_spec": "MU1"
    }
}
删除成功后,再使用2. 查询服务状态接口将无法查询到部署模型的状态。

权限不足排查

模型部署过程中如遇权限不足报错,根据部署方式分两种排查路径:

控制台部署

  1. 如果显示"缺少该模块的权限",请确保您的账号在该业务空间的权限管理页面中拥有模型部署-操作权限。 如果无法正常操作,请联系您的组织或 IT 管理员添加相关权限或代为检查权限问题。
  2. 如果部署时报错"xx业务空间没有部署xx模型的权限",请前往百炼的业务空间管理页面,为对应业务空间添加对应模型的部署权限。
    API 调用报错:Workspace xxx does not have deployment privilege for model xxxx。
    PixPin_2025-11-27_15-03-57
    PixPin_2025-11-27_15-06-41
    如果提示权限不足,请联系您的组织或 IT 管理员添加相关权限或代为操作。

API 部署

在使用 API 进行模型部署时,需要确保:
  1. API Key 的归属业务空间拥有管理该模型的权限。请前往百炼的业务空间管理页面,检查对应业务空间的模型部署权限设置。
    API 调用报错:Workspace xxx does not have deployment privilege for model xxxx。
    在对应业务空间的操作列,单击模型权限流控设置。 在模型列表中找到目标模型,查看模型部署列的授权状态。若显示未授权,单击操作列的编辑进行授权。 如果提示权限不足,请联系您的组织或 IT 管理员添加相关权限或代为操作。
  2. API Key 的归属账号在归属业务空间中拥有操作权限。请前往百炼控制台,点击左下角的业务空间,切换到对应业务空间,再点击image检查对应业务空间的模型部署权限设置。
    API 调用报错:Workspace access denied。
    在左侧导航栏点击权限管理,确认用户列表中包含 API Key 的归属账号(类型为主账号)。 如果提示权限不足,请联系您的组织或 IT 管理员添加相关权限或代为操作。

API参考

详细API调用请参考API 详情及部署 API 全集。
Token Plan
模型体验
模型调优
模型压缩
用量统计与性能监控
资产中心
服务支持