Skip to main content
阿里云百炼 home page阿里云百炼
模型部署

模型部署

无论是平台的预置模型还是您 调优 后的模型， 您可通过部署获得独立的、资源专享的推理服务，以满足您对高并发、低延迟等不同性能的业务需求。

计费方式

部署前可以在模型部署控制台查看不同模型的预估每小时费用。
计费方式在服务创建后无法更改。如需切换，必须下线已经部署的模型后再重新部署。

预置吞吐（PTU，Provisioned Throughput Unit）

（高吞吐；高性能）

模型单元

（自定义性能指标；资源隔离）

Token 用量

（调优后按量计费/效果验证）

定义

通过平台预留资源，保障特定TPM 吞吐能力的模型部署方式；在保障额度内不限速。

按使用时长与模型单元数量配置算力，资源独占的模型部署方式。

以每次调用产生的输入 Token 与输出 Token 作为用量计量依据的模型部署方式。

优势

  1. 为高负载生产环境提供稳定的吞吐容量、更低的延迟和更强的资源确定性。

  2. 相比按Token用量计费，TPS（每秒生成的 Token 数）通常提升约 1.5～2.0 倍。

  3. 支持设置自动续费。

  1. 延迟/吞吐等性能指标可自定义。

  2. 支持设置自动续费。

  3. 支持 PD 分离计算模式。

不使用不计费。

支持模型

部分预置模型

部分预置模型与所有调优后模型

部分经过 LoRA 调优后的模型

使用场景

  1. 银行App的智能客服（流量稳定，需保障并发体验）。

  2. 社交平台的实时内容审核（需稳定处理可预估的流水线任务）。

  3. 公有云翻译API（为标准套餐用户提供基线服务保障）。

  1. 电商专属微调大模型（部署私有模型，大促时手动扩容）。

  2. 医药公司的分子筛选模型（需独占资源跑长时任务）。

  3. 自动驾驶仿真（需要进行长时间持续计算）。

调优后模型效果验证

计费图示

image

image

image

计费方式

按使用时长和预置吞吐

随用随付、包天

按使用时长和模型单元数量

随用随付、包月

按模型 Token 使用量

随用随付

扩缩容方式

自助增减吞吐量

自助增减模型单元数量

在控制台提交申请，等待人工审核。

产品约束

  1. 预付费按天计费。无法提前退费

  2. 如果单位时间内使用超出购买的吞吐量，按创建时选择的溢出策略处理：自动溢出则切换为该模型的模型调用按量付费，仅使用 PTU 容量则返回 429。

预付费购买后，若在首月内提前退订，日单价（≈ 月单价 / 30）将按 1.2 倍计费

  1. 只支持部分高效微调（LoRA）后的模型。

  2. 一个月内不使用将自动释放。

如需查看单次调用的 Token 使用量及调用次数历史统计，请前往：模型监控。

计费详情

  • 按使用时长计费（预置吞吐）
  • 按使用时长计费（模型单元）
  • 按模型 Token 使用量
费用 = 使用时长 × (输入 TPM 单价 × 输入 TPM + 输出 TPM 单价 × 输出 TPM)后付费按小时计算：使用时长单位为小时，单价取下表"持续 1 小时"列；预付费按天计算：使用时长单位为天，单价取下表"持续 1 天"列。
  • 预付费订单支付后实时生效，有效期 N 天至第 N 天 23:59 结束。若在 22:00 后下单，到期日将自动顺延1天。
  • 预付费订单到期后，将延后2小时停止服务，停止后资源保留14小时后释放。
  • 预付费订单无法提前终止服务。
  • 后付费时，如果账户欠费，部署的资源将继续保留并计费 24 小时，在这 24 小时内服务仍可正常使用。超过 24 小时后系统停止计费，模型部署进入欠费状态，底层资源将被删除，但模型部署任务仍会保留。补足欠费后，系统将重新分配资源并恢复使用（恢复后继续产生费用）。如果您不希望继续产生费用，可删除模型部署任务，删除成功后将不再计费。
当模型输入超过最长输入 Token 时，相关调用将自动切换为当前模型的按量付费模式；超出购买的 TPM 量时，按创建时选择的溢出策略处理（「自动溢出」切换为按量付费，「仅使用 PTU 容量」返回 429）。此时，推理性能可能下降，将受业务空间中当前快照模型的公共流量的管控，费用按模型调用（按量付费）标准计收。
  • 此时（仅「自动溢出」策略下），调用 API 返回 Header 将包含：x-dashscope-ptu-overflow:true。
  • TPM 统计请前往：模型监控（北京）。
缩容场景（降配）的具体降费退费规则请参考：降配退款规则说明。
PTU 部署支持长输入阶梯容量系数和缓存折扣，详见预置吞吐长输入与缓存。
  • 华北2（北京）
  • 新加坡
  • 千问
  • DeepSeek
  • 千问VL
  • GLM

模型名称

模型代码

最长输入Token

后付费输入

Per 10K TPM/小时

后付费输出

Per 1K TPM/小时

预付费输入

Per 10K TPM/天

预付费输出

Per 1K TPM/天

千问3.8-Max

qwen3.8-max

1M

¥28.8

¥8.64

¥345.6

¥103.68

千问3.7-Flash-2026-07-15 联系商务经理开通

qwen3.7-flash-2026-07-15

128K

¥0.48

¥0.19

¥5.76

¥2.3

千问3.7-Max-2026-05-20

qwen3.7-max-2026-05-20

256K

¥28.8

¥8.64

¥345.6

¥103.68

千问3.7-Plus-2026-05-26

qwen3.7-plus-2026-05-26

256K

¥4.8

¥1.92

¥57.6

¥23.04

千问3.6-Plus-2026-04-02

qwen3.6-plus-2026-04-02

128K

¥4.8

¥2.88

¥57.6

¥34.56

千问3.5-Plus-2026-04-20

qwen3.5-plus-2026-04-20

128K

¥1.92

¥1.15

¥23.04

¥13.82

千问3-Max-2025-09-23

qwen3-max-2025-09-23

128K

¥7.68

¥3.08

¥92.16

¥36.96

千问-Flash-2025-07-28

qwen-flash-2025-07-28

128K

¥0.36

¥0.36

¥4.32

¥4.32

千问-Plus-2025-12-01

qwen-plus-2025-12-01

128K

¥1.92

非思考：¥0.48

思考：¥1.92

¥23.04

非思考：¥5.76

思考：¥23.04

如果需要部署更多模型，请参考此解决方案并结合具体业务需求选择最适合的部署方案。

部署方法

您可以在控制台上部署模型，请参考以下操作步骤：
如果提示权限不足，请参考：部署时提示权限不足怎么办？
  1. 前往模型部署控制台。
image
image
  1. 填写服务名称，选择模型和计费方式，其他设置保持默认，点击确认。
    需先完成模型调优，方可部署大部分模型。
  1. 部署状态为运行中时，代表该模型已部署成功。
模型部署成功后将产生费用。

部署配置

  • 模型单元

配置内容

配置详情

服务名称

自定义部署服务的名称。

选择模型

选择要部署的模型，包括平台预置模型和已调优的模型。

模型单元类型

选择部署规格，不同规格对应不同的算力和性能。

部署副本数

设置初始部署副本数量，影响服务的并发处理能力。

部署模版

选择部署模版（如"单机部署"），不同模版对应不同的资源配置方案。仅在模型单元计费模式下可用。

配置模型推理模式

部分模型在以模型单元方式部署时，可配置推理模式、最长上下文等。

  • Instruct - 模型部署后以非思考模式进行推理。

  • Thinking - 模型部署后以思考模式进行推理。

最长上下文

部分模型的模型单元部署模式支持该设置。最长上下文长度基于模型类型。

服务限流

部分模型的模型单元部署模式支持该设置，可限制模型调用的 RPM、TPM。

部署列表页

部署成功后，您可以在部署列表页查看和管理所有部署服务。列表页包含以下信息：
  • 服务名称：部署服务的名称，单击可查看部署详情。
  • 模型名称：部署使用的模型。
  • 模型Code：模型部署成功后生成的唯一标识，用于 API 调用时指定模型。
  • 部署状态/事件状态：包括待部署、部署中、运行中、部署失败、下线中、服务暂停、已停止、删除中、退订停服/欠费停服、停服恢复中、运行中（变配中）、运行中（变配失败）等状态。
  • 计费方式：当前部署服务的计费方式。
  • 部署详情：模型单元类型、副本数等配置信息。
  • 限流详情：展示当前部署服务的 RPM（每分钟请求数）、TPM（每分钟 Token 数）等限流配置。
  • 服务时间：展示部署服务的创建时间与到期时间。
  • 操作：根据部署状态和计费方式，可执行更新、监控、扩缩容、续费、下线、删除、体验等操作。

部署后调用

模型部署成功后，支持通过 OpenAI 兼容、Dashscope及Assistant SDK进行调用。 在调用已部署成功的模型时，model的取值应为模型部署成功后的模型code。请前往模型部署控制台（北京）界面获取模型code。
image
示例代码以调用微调后的 qwen3-8b 模型为例：
模型特性（是否支持非流式输出、结构化输出等）与微调前的模型保持一致。经过调优的深度思考模型在调用时是否开启深度思考，建议与调优数据格式一致：
  • 调优数据含深度思考，调用时建议开启enable_thinking参数。
  • 调优数据不含深度思考，调用时不建议开启enable_thinking参数。
预置吞吐部署方式的 GLM-5.2 模型，在调用时thinking_budget参数（限制思考长度）在调用时不生效。
import os
import dashscope

messages = [
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "你是谁？"},
]
response = dashscope.Generation.call(
    # 若没有配置环境变量，请用百炼API Key将下一行替换为：api_key="sk-xxx",
    api_key=os.getenv("DASHSCOPE_API_KEY"),
    model="qwen3-14b-xxx-xxx",  # 请替换为模型部署成功后的code
    messages=messages,
    result_format="message",
    enable_thinking=False,
)
print(response)

部署服务扩缩容

  • 预置吞吐（按时长）：点击扩缩容按钮，自助、手动调节实例数量。具体降费退费规则请参考：降配退款规则说明。
  • 模型单元（按时长）：点击扩缩容按钮，自助、手动调节实例数量。
  • 按 Token 调用量：点击扩容按钮，填写并提交扩容申请表单，等待人工审核。
此外，您还可以通过操作列的伸缩配置按钮，配置自动伸缩策略（包括伸缩阈值、最小/最大副本数、定时伸缩等）。

部署服务下线

前往模型部署控制台，找到要停止的部署服务，根据计费类型点击对应操作：
  • 模型单元预付费：点击下线并确认。
  • 后付费：点击删除并确认。
操作完成后将不再产生计费。
image

其他操作

除下线外，部署列表页的操作列还支持以下操作：
  • 更新：更新已部署服务的模型版本，支持全部更新或分批更新（金丝雀发布）。
  • 删除：按量付费服务可直接删除，停止计费。
  • 续费：预付费服务可续费延长服务时间，支持自动续费。
  • 购买容量包：为预置吞吐部署购买容量包。

常见问题

可以上传和部署自己的模型吗？

支持在我的模型控制台（北京）导入部分开源模型，详细支持列表请参考：模型导入。 此外，阿里云人工智能平台 PAI 提供了部署自有模型的功能，您可以参考PAI-LLM大语言模型部署了解部署方法。

部署时提示权限不足怎么办？

  1. 如果显示“缺少该模块的权限”，请确保您的账号在该业务空间的权限管理页面中拥有模型部署-操作权限。
    PixPin_2025-11-27_15-09-44
    如果无法正常操作，请联系您的组织或 IT 管理员添加相关权限或代为检查权限问题。
  2. 如果部署时报错“xx业务空间没有部署xx模型的权限”，请前往百炼的业务空间管理页面，为对应业务空间添加对应模型的部署权限。
    API 调用报错：Workspace xxx does not have deployment privilege for model xxxx。
    PixPin_2025-11-27_15-03-57
    PixPin_2025-11-27_15-06-41
    如果提示权限不足，请联系您的组织或 IT 管理员添加相关权限或代为操作。

该如何切换到其他的计费方式？

只能释放原有资源，再通过需要的计费方式创建新资源。 建议按照以下步骤进行切换：
  1. 使用需要的计费方式部署新的资源。
  2. 切换 API 并测试服务可用性。
  3. 下线释放原有资源。
阿里云百炼 home page阿里云百炼
开始使用
产品计费
Token Plan
模型体验
  • 3D模型生成
  • 音乐生成
接入客户端/开发工具
模型推理
模型调优
模型部署
模型评测
模型压缩目录节点
用量统计与性能监控
资产中心
模型数据
安全合规
实践教程
服务支持
产品动态