我的模型

​

支持的模型

• 调优模型：指在阿里云百炼调优后的模型，详见模型调优支持的模型。
• 导入模型：指从阿里云对象存储OSS导入的模型。支持导入部分经过 LoRA 微调或全参微调的模型。

  导入全参微调后的模型属于白名单功能，如需开通请联系客户经理。

  模型列表：
  • 华北2（北京）
  • 新加坡

  支持的模型	模型名称
  千问3	千问3-32B
  千问3	千问3-14B
  千问3	千问3-8B
  千问3	千问3-4B-Instruct-2507
  千问3-VL	千问3-VL-8B-Instruct
  千问2.5	千问2.5-72B-Instruct
  千问2.5	千问2.5-32B-Instruct
  千问2.5	千问2.5-14B-Instruct
  千问2.5	千问2.5-7B-Instruct
  千问2.5-VL	千问2.5-VL-72B-Instruct
  千问2.5-VL	千问2.5-VL-7B-Instruct

  支持的模型	模型名称
  -	-

  数据更新可能存在延迟，请以导入模型时界面实际显示为准。

​

导入模型

导入模型不支持通过API或命令行操作。

1. 在我的模型页面，单击导入模型，进入导入模型界面。
2. 输入模型名称，并选择导入模型的基础模型（即被微调的模型）。
3. 导入方式选择从OSS导入，暂不支持其它方式。您需要自行将已完成LoRA微调或全参微调的模型的相关文件上传至阿里云对象存储OSS。查看模型文件示例
   • 首次导入请先按照界面提示完成授权，并为目标Bucket添加标签。详见下方常见问题中的「首次从 OSS 向阿里云百炼导入文件，应该如何操作？」。
   • 支持的OSS Bucket存储类型不包括归档、冷归档或深度冷归档。支持内容加密的Bucket。支持私有的Bucket。
   • 不支持访问OSS Bucket根目录下的文件，请您在OSS Bucket下选择已有的子目录或新建一个子目录供阿里云百炼访问。
   • 支持导入任意大小的模型文件，导入后将使用阿里云百炼提供的免费存储空间。
4. 单击确定后，系统将开始导入模型。在请求高峰时段，该过程可能需要较长时间，请耐心等待。

​

准备 LoRA 模型文件

​

必需文件与目录结构

​

训练参数约束

• rank 取值：rank 必须为 8、16、32 或 64 之一，且同一模型的所有 LoRA 层须使用相同的 rank 值，否则无法导入。
• 词汇表不可修改：训练中添加新 token 或修改原始词汇表的模型无法导入，须与基础模型词汇表完全一致。
• 对话模板不可修改：训练中修改 chat_template 的模型无法导入，须与基础模型默认配置一致。chat_template 位于 config.json 或 tokenizer_config.json 的 chat_template 字段。
• 视觉模型须冻结 VIT：视觉语言模型必须冻结 Vision Transformer 部分。若 LoRA 适配器中包含 visual 相关权重参数（即未冻结 VIT），该模型无法导入。

from safetensors import safe_open
import argparse

def print_safetensor_structure(file_path):
    print(f"Loading safetensor file: {file_path}")
    print("="*80)

    with safe_open(file_path, framework="pt") as f:
        keys = f.keys()
        print(f"Found {len(keys)} tensors in the file:\n")

        for key in sorted(keys):
            tensor = f.get_tensor(key)
            shape = tuple(tensor.shape)
            dtype = str(tensor.dtype)
            device = tensor.device if hasattr(tensor, 'device') else 'cpu'

            lora_tag = " [LoRA]" if "lora_A" in key or "lora_B" in key else ""

            print(f"[{dtype:>14}] {shape} | {key} {lora_tag}")

if __name__ == "__main__":
    parser = argparse.ArgumentParser(description="Print structure of a .safetensors LoRA adapter.")
    parser.add_argument("filepath", type=str, help="Path to the .safetensors file")
    args = parser.parse_args()

    print_safetensor_structure(args.filepath)

​

提交前自动校验

​

导入表单字段

​

后续操作

​

管理我的模型

删除：已部署的模型须先下线再删除；若模型来自模型调优，本操作不会删除模型调优界面中的记录。

​

状态与流转

​

操作列可用性

• 部署：仅创建成功状态可点击，点击后跳转部署创建页，部署操作详见部署运维；其余状态或无可选部署方式时按钮不可用。
• 增量训练：从 OSS 导入的模型不支持增量训练，按钮不可用。
• 删除：创建中状态不可删除；量化模型须前往模型压缩界面删除。

​

调用我的模型

• 关键限制：在阿里云百炼调优后的模型部署成功后，只能使用其所在业务空间的 API-KEY 调用，且目前仅支持通过DashScope方式调用，不支持通过OpenAI兼容方式调用。
• 优化推理效果：请在调用时显式配置推理超参（如presence_penalty、frequency_penalty和repetition_penalty等），并确保与您线下微调后的推理超参设置保持一致。

​

模型文件示例

• LoRA微调后一般会生成两个checkpoint文件，分别是best_model_checkpoint（在验证集上表现最优的检查点）与last_model_checkpoint（最后一次保存的检查点）。您可以根据需求选择其中一个导入。 请确保导入的模型文件中包含adapter_model.safetensors和adapter_config.json。如需了解LoRA微调方法，您可以参考阿里云大模型ACP课程中的模型微调章节。 checkpoint 文件目录中通常包含以下文件：global_step100/（子目录）、README.md、adapter_config.json、adapter_model.safetensors、additional_config.json、configuration.json、generation_config.json、latest、rng_state_0.pth 和 rng_state_1.pth。
• 全参微调需要导入的文件和开源模型保持一致。

​

常见问题

{
    "Action": [
        "ram:CreateServiceLinkedRole"
    ],
    "Resource": "*",
    "Effect": "Allow",
    "Condition": {
        "StringEquals": {
            "ram:ServiceName": "datahub.sfm.aliyuncs.com"
        }
    }
}