独占算力部署提供独占吞吐（DTU）与模型单元（MU）两种方案，以独占 GPU 资源为指定模型提供性能和吞吐保障。DTU 面向新发布模型（按输入/输出 TPM×时长计费），MU 用于已有模型（按模型单元数量×时长计费）。本文介绍两种方案的功能、计费方式、使用流程与支持模型。
概述
独占算力部署为指定模型提供独占 GPU 资源与性能保障，支持基础模型与自定义模型部署。百炼提供两种独占算力方案：
- DTU（Dedicated Throughput Unit，独占吞吐）：按 Input/Output TPM 售卖，提供更直接的吞吐保障。全托管推理服务，底层独占 GPU 资源由平台运维。
- 模型单元（MU，Model Unit）：按使用时长与模型单元数量配置算力，资源独占。支持自定义性能指标、PD 分离计算模式。计费粒度为模型单元数量×时长。
- 独占 GPU 资源，推理环境与其他用户物理隔离。
- 支持基础模型和自定义模型（百炼微调模型或用户上传模型）部署。
- 平台负责底层运维，无需管理 GPU。
- 不主动设 RPM/TPM 上限，流量受实际承载力限制。
方案选型
百炼为推理调用提供多种容量与计费方案。DTU 适用于需要独占部署、微调模型部署、低延迟高并发或数据隔离的场景。各方案的对比如下表所示。
Token 按量、PTU 等全部计费方式的完整对比详见模型部署主表。
对比维度 | DTU | PTU | Token 按量 | PAI/灵骏 |
|---|---|---|---|---|
特点 | 独占算力 + 微调模型 | 吞吐保障 + 低延迟 | 弹性灵活、零门槛 | 自定义运行时 |
资源隔离 | 物理隔离 | 逻辑隔离 | 共享公池 | 物理隔离 |
微调模型 | 全参 + LoRA | 不支持 | LoRA | 支持 |
自定义框架 | 不支持 | 不支持 | 不支持 | 支持 |
计费模式 | TPM 额度 × 时长 | TPM 额度 × 时长 | Token 用量 | GPU × 时长 |
计费规则
- DTU 计费
- MU 计费
MU 与 DTU 均为预付费模式，提前退订已使用部分按 1.2 倍系数结算退费，详见降配退款规则说明。
支持模型与价格
- DTU 价格表与性能基准
- MU 价格表
- 华北-北京2
模型 | 规格 | 基准输入（TPM） | 基准输出（TPM） | 起售价格(元/月) | 扩容价格(元/月) |
|---|---|---|---|---|---|
qwen3.7-plus-2026-05-26 | Fast | 1,372,000 | 170,000 | 556,466 | 556,466 |
qwen3.6-27b | Standard | 273,000 | 34,000 | 49,118 | 49,118 |
qwen3.5-397b-a17b | Standard | 896,000 | 112,000 | 1,107,904 | 1,107,904 |
qwen3.5-122b-a10b | Fast | 7,288,000 | 904,000 | 2,226,984 | 2,226,984 |
qwen3.5-35b-a3b | Standard | 656,000 | 82,000 | 109,962 | 109,962 |
qwen3.5-27b | Standard | 2,432,000 | 304,000 | 1,108,688 | 1,108,688 |
Efficient | 291,000 | 36,000 | 48,996 | 48,996 | |
qwen3.5-4b | Standard | 1,072,000 | 134,000 | 109,478 | 109,478 |
glm-5.2 | Fast | 1,004,000 | 120,000 | 1,895,260 | 1,895,260 |
glm-5.1 | Standard | 256,000 | 32,000 | 504,704 | 504,704 |
deepseek-v4-flash | Standard | 2,240,000 | 280,000 | 1,107,400 | 1,107,400 |
deepseek-v4-flash-0731 | Fast | 1,676,000 | 213,000 | 277,984 | 277,984 |
以下性能参考数据均在缓存命中率为 0% 的条件下测得。实际使用中，随着缓存命中率提升，模型性能也会相应提高。
模型 | 规格 | 输入长度 | 输出长度 | 缓存命中率 | 首字延迟(ms) | 每token延迟(ms) |
|---|---|---|---|---|---|---|
qwen3.7-plus-2026-05-26 | Fast | 16,000 | 2,000 | 0 | 2,418 | 15 |
qwen3.6-27b | Standard | 4,000 | 500 | 0 | 1,292 | 19 |
qwen3.5-397b-a17b | Standard | 4,000 | 500 | 0 | 996 | 27 |
qwen3.5-122b-a10b | Fast | 16,000 | 2,000 | 0 | 568 | 8 |
qwen3.5-35b-a3b | Standard | 4,000 | 500 | 0 | 471 | 10 |
qwen3.5-27b | Standard | 4,000 | 500 | 0 | 703 | 14 |
Efficient | 4,000 | 500 | 0 | 1,448 | 23 | |
qwen3.5-4b | Standard | 4,000 | 500 | 0 | 552 | 6 |
glm-5.2 | Fast | 16,000 | 2,000 | 0 | 1,558 | 15 |
glm-5.1 | Standard | 4,000 | 500 | 0 | 769 | 27 |
deepseek-v4-flash | Standard | 4,000 | 500 | 0 | 651 | 19 |
deepseek-v4-flash-0731 | Fast | 16,000 | 2,000 | 0 | 1,079 | 13 |
部署创建
- DTU 创建部署
- MU 部署配置
参数 | 说明 | 是否必填 | 取值说明 |
|---|---|---|---|
服务名称 | 部署服务的名称 | 是 | 自定义 |
模型 | 部署的目标模型 | 是 | 下拉选择 |
部署模版 | 部署架构 | 否 | 下拉选择，默认选第一个 |
付费类型 | 计费方式 | 是 | 预付费（按月） |
输入吞吐额度 | 购买的输入 TPM 容量 | 是 | 基准输入 TPM 的整数倍（kTPM） |
输出吞吐额度 | 购买的输出 TPM 容量 | 是 | 基准输出 TPM 的整数倍（kTPM） |
购买时长 | 购买周期 | 是 | 1-12（整数，月） |
自动续费 | 到期自动续费 | 否 | 开/关 |
单次续费时长 | 开启自动续费时必填 | 是 | 1-12（整数，月） |
参数 | 说明 | 是否必填 | 取值说明 |
|---|---|---|---|
服务名称 | 部署服务的名称 | 是 | 自定义 |
模型 | 部署的目标模型 | 是 | 下拉选择 |
部署模版 | 部署架构 | 否 | 下拉选择，默认选第一个 |
付费类型 | 计费方式 | 是 | 预付费（按月） |
输入吞吐额度 | 购买的输入 TPM 容量 | 是 | 基准输入 TPM 的整数倍（kTPM） |
输出吞吐额度 | 购买的输出 TPM 容量 | 是 | 基准输出 TPM 的整数倍（kTPM） |
购买时长 | 购买周期 | 是 | 1-12（整数，月） |
自动续费 | 到期自动续费 | 否 | 开/关 |
单次续费时长 | 开启自动续费时必填 | 是 | 1-12（整数，月） |
容量规划
DTU 按输入/输出 TPM 售卖，所购 TPM 即每分钟可处理的最大 token 量。容量规划的目标是：依据业务峰值 token 需求推算需购买的倍数，再通过压测验证实际可承载的并发与延迟是否达标。各模型的基准输入/输出 TPM 与标准工况性能参考见上方表格。
建议使用 evalscope 等压测工具，按真实业务场景（输入/输出长度、并发数、延迟要求）压测，再对照定价表确定购买倍数。
容量规划方法
- 梳理业务峰值指标：典型请求的输入/输出 token 长度、目标并发数，以及对首字延迟（TTFT）和每 token 生成延迟（TPOT）的要求。
- 估算峰值吞吐需求：峰值输入 TPM ≈ 并发数 × 单请求输入长度 ÷ 单请求处理时长（分钟）；峰值输出 TPM ≈ 并发数 × 单请求输出长度 ÷ 单请求生成时长（分钟）。
- 计算购买倍数：输入倍数 = ⌈峰值输入 TPM ÷ 基准输入 TPM⌉，输出倍数 = ⌈峰值输出 TPM ÷ 基准输出 TPM⌉；DTU 输入与输出需同增同减，取两者较大值作为最终倍数。
- 压测验证：按计算倍数购买后，用 evalscope 在目标工况下复测，确认实际吞吐与延迟满足业务要求。若延迟偏高，可在 TPM 余量内提高并发以提升有效吞吐。
扩缩容与续费退订
- DTU 扩缩容与续费退订
- MU 扩缩容与续费