本文档介绍如何在阿里云百炼平台调用月之暗面(Moonshot AI)直供的模型推理服务。
服务开通
- 前往百炼控制台,搜索 Kimi,找到 Kimi 模型卡片,单击立即开通;
- 在弹窗内确认开通及授权。
快速开始
前提条件
- 需要已获取与配置 API Key并完成配置API Key到环境变量
- 如果通过SDK调用,需要安装SDK
- kimi/kimi-k2.7-code-highspeed 与 kimi/kimi-k2.7-code 功能完全一致,速度提升5~6倍。
- kimi/kimi-k3、kimi/kimi-k2.7-code-highspeed、kimi/kimi-k2.7-code 为仅思考模型。
-
kimi/kimi-k2.6 可通过
enable_thinking参数控制思考模式,默认开启思考模式:- 思考模式(
reasoning_effort: "max"):模型会输出详细的推理过程(reasoning_content) - 非思考模式(
enable_thinking: false或不设置):直接输出结果,不包含推理过程
- 思考模式(
preserve_thinking 参数在多轮对话中传递思考过程,详情请参见传递思考过程。
以下示例演示如何调用思考模式的 kimi/kimi-k3 模型进行文本生成。
- OpenAI兼容
reasoning_effort非 OpenAI 标准参数,OpenAI Python SDK 通过 extra_body传入,Node.js SDK 作为顶层参数传入。- Python
- Node.js
- HTTP
返回结果
多模态调用示例
Kimi 系列模型不仅支持纯文本对话,还具备强大的多模态理解能力。本章节将介绍如何让模型理解图像和视频内容。
图像理解
图像理解功能让 Kimi 模型能够识别和分析图像内容。您可以传入单张或多张图像。图像文件的限制请参见图像限制。
- OpenAI兼容
- Python
- Node.js
- HTTP
视频理解
视频文件的限制请参见视频限制。
- OpenAI兼容
- Python
- Node.js
- HTTP
文件限制
- 图像文件
- 视频文件
- 图像分辨率:建议图像分辨率不超过4k (4096*2160)
- 支持的图像格式:PNG、JPEG、WEBP、GIF
- 图像大小与图像数量:无限制,但需确保请求的文本和图像的大小不超过 100M。
其它功能
| 模型 | 多轮对话 | Function Calling | 前缀续写 | 联网搜索 | 上下文缓存 | 结构化输出 |
|---|---|---|---|---|---|---|
| kimi/kimi-k3 | 支持 | 支持 | 支持 | 不支持 | 支持 | 支持 |
| kimi/kimi-k2.7-code-highspeed | ||||||
| kimi/kimi-k2.7-code | ||||||
| kimi/kimi-k2.6 |
- kimi/kimi-k3命中缓存的输入Token按输入价格的10%计费
- kimi/kimi-k2.7-code-highspeed、kimi/kimi-k2.7-code 命中缓存的输入Token按输入价格的20.0%计费,
- kimi/kimi-k2.6命中缓存的输入Token按输入价格的16.9%计费
参数默认值
| 参数 | kimi/kimi-k3 | kimi/kimi-k2.7-code-highspeed | kimi/kimi-k2.7-code | kimi/kimi-k2.6 |
|---|---|---|---|---|
tool_choice | auto | auto | auto | 思考模式/非思考模式:auto |
preserve_thinking | 默认关闭 | 默认开启 | 默认开启 | 默认关闭 |
reasoning_effort | max | - | - | - |
temperature | 1 | 1.0 | 1.0 | 思考模式:1.0非思考模式:0.6 |
top_p | 0.95 | 0.95 | 0.95 | 思考模式/非思考模式:0.95 |
repetition_penalty | 0.0 | 0.0 | 0.0 | 思考模式/非思考模式:0.0 |
presence_penalty | - | 0.0 | 0.0 | 思考模式/非思考模式:0.0 |
stream_options | 仅支持设置为true | 仅支持设置为true | 仅支持设置为true | 仅支持设置为true |
stream_options仅支持设置为true,temperature、top_p、repetition_penalty、presence_penalty不支持设置为其他值;- kimi/kimi-k3 支持
reasoning_effort参数,唯一支持值max。 - 在思考模式下,使用 Kimi 模型进行工具调用时:必须在每轮 assistant 消息中保留
reasoning_content字段;对于tool_choice参数,kimi-k3支持auto/none/required三档;其他模型不支持required,传入会报错。kimi-k3支持动态加载工具,详细用法请参见动态加载工具。 - ”-”表示没有默认值,也不支持设置。
模型列表与计费
模型上下文长度与价格信息请参见百炼控制台。
按照模型的输入与输出 Token 计费。
思考模式下,思维链按照输出 Token 计费。