Fireworks Research 发布 Ember-1：基于 Kimi K3 的省 token 专用模型

Ember-1：一半的 token，相同的答案

Ember-1 是 Fireworks Research 推出的一款全新专用模型，以少 40% 的 token 达到 Kimi K3 的质量。它基于 Kimi K3 构建，学会了削减不必要的推理，同时保留真正重要的思考。我们在外部基准测试、真实客户 A/B 测试以及我们自己的编程和智能体工作负载上对它进行了测试，质量在每种场景下都保持住了。Ember-1 今日即可使用，它开启了 Fireworks 一系列专用模型的序幕，这些模型由开发者接下来的需求塑造。Ember 只是你用 Fireworks 训练平台所能构建之物的起点。

Fireworks Research 如何构建 Ember-1

我们从用户那里得知，他们需要以更低成本获得 K3 的编程能力，因为其冗长的推理轨迹使自动化编程在大规模下变得昂贵。降低 K3 的推理强度并不能解决这个问题。较低的强度设置牺牲了太多质量。要在保持质量的同时削减 token，模型必须学会更高效地推理，而这需要训练它。

实现这一点需要扎实的研究。我们的团队进行了 50 多次训练实验和 200 多次评估，并在此过程中开发了新的训练算法，以在不损失准确率的前提下缩短推理。这一切都在 Fireworks Serverless Training 上完成。由于无需预置或管理 GPU，我们一有想法就能启动实验，只为实际运行付费，并以通常时间和成本的一小部分从研究推进到发布。

我们在广泛的任务集上进行了训练，使 token 节省能够延续到多种工作负载。我们使用自己的数据训练该模型，未使用任何客户数据。随后，我们在专用智能指数（Specialized Intelligence Index）、公开基准测试和实时生产流量上评估了 Ember-1，以确认它在使用更少 token 的同时质量没有下降。Ember-1 是 Fireworks 自有模型，也是 Fireworks Research 系列模型中的首个。

问题所在：思考型模型想得太多

像 Kimi K3 这样的推理模型，其生成 token 的大部分——有时超过 90%——花在内部推理上，而非答案本身。这种思考结构在单次请求上就很昂贵，在多轮智能体工作负载中则严重得多。每一轮都会把所有先前的推理重新回放给模型，因此上下文随轮数大致呈二次方增长。早期轮次的长推理轨迹会在之后的每次调用中被重新读取（并重新计费）。

所有这些推理真的必要吗？我们的实验表明并非如此。Kimi K3 输出的推理远超任务所需，多余部分可以在不影响答案的情况下移除。我们正是以此方式创建了 Ember-1——一个由专用智能构建的经济版 Kimi K3。

从观察到一款优质模型

K3 的推理并非全是浪费。其中一部分是自我反思：重新审视某个假设、回应反馈，或将某个结果追溯到更早的决策，这些都能帮助模型从错误中恢复。机会在于保留这种能力，同时减少不必要的推理并摆脱无成效的循环。我们相信，从任务和环境反馈中学习可以教会模型更高效地推理，同时保持其能力。

对于智能体任务，这种学习贯穿整个交互过程。模型探索可能的行动，纳入新的观察，并随着推进不断改进其推理。反馈将决策与其后果联系起来，鼓励在整个任务中进行有益的反思。

我们将这些洞见带入一个训练集合，涵盖数学、编程、指令遵循、对话、搜索、工具使用和软件工程，既包括独立问题也包括延展交互，以强化对观察和结果的适应。任务反馈引导同策略规划与学习，重点是在这一系列场景中保持能力。

公开基准测试和实时 A/B 测试的结果支持这一方向：在七个基准测试和两家客户的生产流量中，Kimi K3 的推理可缩短 35–50% 而不牺牲准确率。这种内化的行为还体现在失败尝试上克制的 token 使用，减少了冗长、无成效的推理。

专用智能指数：Ember-1 为 Bedside Bench 设定帕累托前沿

本周早些时候，我们推出了专用智能指数（SII），以行业专家创建的真实世界任务来对开源、闭源和专用模型进行基准测试。

我们在 Doximity 的 Bedside Bench 上评估了 Ember-1，这是一个经医生验证的基准，涵盖 10 个专科类别的 500 个临床案例。

结果如何？Ember-1 在 Bedside Bench 上为包括 GPT-5.6 Sol、GPT-6 Astra 和 Claude Opus 5 在内的开源和闭源模型设定了新的帕累托前沿，衡量维度为每任务成本。

图 2：Bedside Bench SII 上的得分与时长对比图

在更多行业基准上评估帕累托表现

我们还在其他一些行业基准上，从质量与成本的前沿角度评估了 Ember-1。我们使用公开的 Kimi K3 API 定价（未缓存输入每百万 token 3 美元，缓存输入每百万 token 0.30 美元，输出每百万 token 15 美元）计算了每个基准的成本，并将其与三个配置的通过率进行对比绘图：推理强度为低的 K3、推理强度为高的 K3、推理强度为最高（默认）的 K3，以及 Ember-1。在每一个测试样本超过 50 个的基准上，Ember-1 都位于帕累托前沿之上或附近，以极低的成本达到 K3-max 的质量，并严格优于 K3-low。我们还分析了 GPT-6 Astra、Claude Opus-5 和 GLM 5.3，发现 Ember-1 在帕累托前沿上处于领先地位。

我们深入查看了 Ember-1 与原始 K3 直接对比的结果，得到以下数据：

行业基准NK3 LowK3 HighK3 maxEmber-1Ember-1 对比 K3 Max Terminal Bench 2.18976.4%77.6%80.9%82.0%SWE-bench Verified50080.4%86.0%93.2%92.2%SWE-Interact756.7%13.3%21.3%20.0%DeepSWE 1.111355.8%62.8%66.4%75.2%τ-2 Bench Airline5064%64%64%66%

运行 K3 最具成本效益的方式不再是让它少思考，而是运行 Ember-1——这个学会了高效思考的模型。

客户验证：实时 A/B 测试

基准测试能说明的问题有限。正如我们在专用智能指数结果中发现的那样，我们希望用更多真实工作负载来测试该模型，并用生产流量来测试该模型。真正的考验往往是模型能否在用户所依赖的产品中、在生产流量上经受住考验。

我们与两家客户在其生产编程工作负载上进行了实时 A/B 测试。在这两种情况下，Ember-1 都带来了可观的 token 节省，在质量相当的情况下每个任务约减少 35% 的 token。大多数下游产品指标保持稳定或有所改善，包括任务完成率、成功评分和失败率都在朝着正确方向发展，同时 token 成本大幅降低。A/B 测试之后，一家客户目前已在实时生产环境中运行 Ember-1，并计划扩大规模以完全替换基础模型。

得分步数输出 token推理 token 减少总 token 减少Kimi K30.75123.849.3K-Ember-10.75321.429.9K71.3%

内部验证：我们自己的开发者没有察觉

Fireworks 内部编程/协作流量很大一部分由我们自己的推理服务提供支持。在任何客户看到该模型之前，我们就在内部让 Ember-1 投入使用，并让我们自己的开发者将其用于日常编程工作，包括在真实任务上进行大规模的体验测试。

我们最引以为豪的结果是：没有消息。没有消息就是好消息。开发者在消耗大幅减少的 token 的同时，继续他们的编程工作负载，却没有察觉到切换。对于一个全部价值主张就是“相同答案，更少 token”的模型来说，在内部流量上实现无感上线是最有力的信号。

下一步

Ember-1 正作为 Research Preview 版本在 Serverless 上与基础 Kimi K3 模型并列作为服务选项推出。为支持快速增长的开放源代码生态，我们推出研究版本，为开发者提供为期两周的新研究模型无服务器访问权限，并根据社区需求将其转为永久提供。对于智能体编程以及其他推理 token 占成本大部分的工作负载，它以大约一半的 token 成本提供相同的质量。

Fireworks Research 将继续通过为更多 Ember 模型引入专用智能来推动模型效率的前沿，使您能够部署最经济的模型并减少 token 支出。Token 效率正成为 Fireworks 的一个主题。

希望将 Ember-1 更进一步，并针对您的用例进行优化？我们还将推出 Ember-1 的训练支持，使企业能够利用自己的数据构建量身定制的、token 高效的模型。开放模型的未来是在您的特定工作负载上训练的专用模型。

正在您的工作负载上试用 Ember-1？我们很想听听您的体验，请在 X（@FireworksAI_HQ）上标记我们，并告诉我们您正在构建什么！