Kimi K3 开发者完整指南：2.8 万亿参数、1M 上下文与 Together AI 用法

你将学到什么

什么是 Kimi K3，它有何不同？底层架构是什么：KDA、Attention Residuals 与 Stable LatentMoE 架构；如何使用推理强度、流式输出、工具、视觉和 1M 上下文？如何从首次 API 调用走向生产环境？Kimi K3 在编程和智能体基准测试中与前沿模型相比如何？Kimi K3 在 Together AI 上的费用是多少？

Kimi K3 是 Moonshot AI 迄今为止能力最强的模型：一个 2.8 万亿参数的模型，也是全球首个进入 3 万亿参数级别的开源模型。它专为前沿智能工作而设计，例如长周期编程、端到端知识工作和深度推理。它也是首个在 GPT 5.6 Sol 和 Claude Fable 5 层级上竞争的开源权重模型，Together AI 正直接与 Moonshot 团队合作来提供该模型的服务。

已发布的最大开源权重模型

Kimi 团队深度致力于扩展规模，这一点显而易见：在 2025 年 7 月至 2026 年 7 月的十二个月中，有九个月 Kimi 模型都设定了开源模型规模的上限。凭借 2.8 万亿参数，K3 现已成为有史以来发布的最大开源权重模型。

底层架构是什么

两项架构更新构成了 K3 的骨干，二者都旨在帮助信息在更长的序列中更轻松地流动，并更深入地进入网络：

Kimi Delta Attention（KDA）：一种混合线性注意力机制，为在超长上下文中扩展注意力提供了高效基础。这是首个支持 1M 上下文长度的 Kimi 模型；Attention Residuals（AttnRes）：跨模型深度选择性地检索表示，而非均匀地累积它们

在此基础上，Moonshot 通过 Stable LatentMoE 框架进一步推进了混合专家稀疏性，高效激活 896 个专家中的 16 个。在这种稀疏程度下，每个 token 大约激活 2% 的专家，路由和优化成为首要挑战，因此多项辅助技术使 2.8T 规模的稳定训练成为可能：

分位数平衡（Quantile Balancing）：直接从路由分数的分位数推导专家分配，消除了启发式更新和敏感的平衡超参数；Per-Head Muon：扩展 Muon 优化器以独立优化注意力头，从而在大规模下实现更具适应性的学习；Sigmoid Tanh Unit（SiTU）：改善激活控制；Gated MLA：改善注意力选择性

如何在 Together AI 上使用 Kimi K3

该 API 与 OpenAI 兼容。以下代码片段面向 Together AI，并使用官方 Together Python SDK。

思考强度

K3 可通过顶层 reasoning_effort 字段进行配置。支持三个级别：low、high 和 max，默认值为 max。在 Together 上，也可以通过标准的 reasoning={"enabled": False} 开关关闭思考。

流式输出

流式响应会分别提供 reasoning_content（思考轨迹）和最终答案的 content 增量。

视觉输入

可以提供多张图像作为输入。Moonshot 还发布了一个视觉推理基准 Perception Bench。

视觉限制：

图像数量没有限制，但整个请求体必须保持在 100 MB 以下；建议上限：图像为 4K（4096x2160）。更高分辨率会增加处理时间和 token 消耗，却不会提升理解效果；token 成本随分辨率增加

结构化输出

使用 response_format 搭配 json_schema 和 strict: true 来约束最终 message.content。

当只需要语法有效的 JSON 时，更宽松的 {"type": "json_object"} 模式在 Together 上也可用。无论哪种方式，都要保持 max_tokens 足够宽裕：整个思考轨迹会在第一个受 schema 约束的 token 输出之前消耗完，因此过紧的上限会截断 JSON，而不是截断推理。

工具与 tool_choice

K3 保留标准的工具选择约束。标准循环：在 tools 中声明函数；当模型返回 tool_calls 时，将完整的 assistant 消息追加到历史记录，然后为每个调用追加一条带有匹配 tool_call_id 的 tool 消息，然后再次调用。在第一轮使用 tool_choice="required" 强制至少调用一次工具，之后切换回 "auto"。更改 tool_choice 不会使前缀缓存失效。

动态工具加载

你可以将完整的工具定义（完整名称、描述和参数）放在一条带有 tools 字段且没有 content 的 system 消息中。该工具从该消息的位置开始可用。

关键规则：

动态声明使用与顶层 tools 字段完全相同的格式；它们按请求生效，且不会被服务器保留，因此你需要自己在后续请求历史中保留该消息。保留它可以同时保持工具的可用性和缓存的前缀；丢弃它意味着模型无法再调用该工具，且更改后的前缀可能无法命中缓存；将动态声明追加到 messages 末尾不会影响缓存的前缀；删除或修改较早的声明可能会损害更改点之后的缓存命中

大型工具目录的推荐模式：

对话开始：只声明一个 search_tools 函数（由你的后端实现）以及少量核心工具，并在系统提示中公布可搜索的领域标签；第一轮：设置 tool_choice: "required" 以强制在回答前进行检索；按需注入：根据检索结果，通过一条系统消息插入匹配工具的完整定义；直接调用：模型在后续生成中使用已加载的工具；成本权衡：在对话开始前决定 reasoning_effort

代码示例：

1M 上下文与自动缓存

Together 支持完整的 1M 上下文长度，且上下文缓存是自动的。请让你的长前缀（系统提示、知识库、仓库转储）在多次请求之间保持字节稳定，以便后续调用能够命中缓存。Moonshot 建议将固定的大块上下文（知识文档）放在 messages 数组的最开头、系统消息之前，然后在其后追加问题和回复。

采样参数

采样参数是固定的，你应当从请求中省略它们。该模型是使用这些参数训练的，不支持设置其他替代值：

temperature = 1.0；top_p = 0.95；n = 1；presence_penalty = 0；frequency_penalty = 0

保留式思考

K3 是在保留思考历史模式下训练的，因此轨迹就是下一轮所依赖的状态。使用以下方式保留上一轮的思考 token，并将它们转发到后续轮次。

去掉 reasoning_content 这一行，同样的调用每次都会用一个新编造的数字来回答。在真实代码中，你从不手写轨迹；你重放模型产生的内容，也就是工具循环中的那一行代码：

Kimi K3 定价

Kimi K3 按 token 计价，并设有缓存命中输入档位，以奖励稳定的前缀：

需要内化的两个成本方面：

缓存是你的杠杆。在编码工作负载中命中率超过 90% 时，有效输入成本会趋近于 \$0.30 的下限，但前提是你保持前缀稳定。重构较早的消息或工具声明会破坏它；推理按输出计费，并且可以调节。思考 token 是输出 token，价格为 \$15/M，且思考无法完全禁用，但 reasoning_effort 现在有三个级别。max 仍是默认值，因此从不设置该字段的流水线会在每次调用时支付最高推理费用，包括那些微不足道的调用

Kimi K3 基准测试

在整个评估套件中，Kimi K3 都取得了前沿水平的成绩。它在多项编码和智能体基准（SWE Marathon、BrowseComp、DeepSearchQA、AutomationBench、OmniDocBench）上领先，在其他基准上与最强的专有模型保持竞争力，同时明显优于所测试的另一款开放模型 GLM-5.2。在少数基准上它落后于 Claude Fable 5 和 GPT 5.6 Sol，这与 Moonshot 自身对该模型的定位一致。

以下所有 Kimi K3 结果均使用设为 max 的推理强度。

Kimi K3 与前沿模型的对比

汇总基准表只能说明一部分问题。为了对成本、编码质量和路由行为进行正面比较，我们在 DeepSWE 上让 Kimi K3 与领先的专有模型进行了对比：

Kimi K3 与 GPT 5.6 Sol 在 DeepSWE 上的对比：成本、编码与路由；Kimi K3 与 Claude Fable 5 在 DeepSWE 上的对比：成本与编码

常见问题

什么是 Kimi K3？Kimi K3 是 Moonshot AI 的旗舰级 2.8 万亿参数模型，也是 3 万亿参数级别中的首个开源模型，专为长周期编码、知识工作和推理而构建。

Kimi K3 是开源的吗？

是的。它以开放权重模型的形式发布，Together AI 直接与 Moonshot 团队合作来提供该模型的服务。

Kimi K3 的上下文窗口是多少？

1M token（1,048,576），在 Together AI 上完整支持，并带有自动上下文缓存。

Kimi K3 在 Together AI 上的费用是多少？

每 1M 缓存命中输入 token 为 \$0.30，每 1M 缓存未命中输入 token 为 \$3.00，每 1M 输出 token 为 \$15.00。

可以关闭 Kimi K3 的思考功能吗？

在 Together AI 上，你可以通过 reasoning={"enabled": False} 禁用思考，或通过将 reasoning_effort 设为 low、high 或 max 来调节推理深度。

Kimi K3 支持视觉吗？

支持。它具有原生视觉能力，每次请求可接受多张图片，只要请求体总大小保持在 100 MB 以下即可。

Kimi K3 已在 Together AI 上线。运行它并将其投入生产。

让 K3 为你所用，从一次 API 调用开始。

运行 Kimi K3 推理：Together AI 上的 Kimi K3 API；开始使用 API 构建：阅读文档