Inception 发布扩散语言模型 Mercury 3,称速度达 GPT-6 Luna 四到八倍
Inception's Mercury 3 diffusion model claims to beat GPT-6 Luna and Claude Haiku 5.5 at a fraction of the wait
Inception 发布扩散语言模型 Mercury 3,称其在 12 项基准中赢下 8 项,运行速度为 GPT-6 Luna 和 Claude Haiku 5.5 的四到八倍。在 Inception 自测中,Mercury 3 在 IFBench 得 76.84 分,比 GPT-6 Luna 高 15 分;SWE-Bench Atlas 得 51.08 分,对手分别为 33.33 和 32.26。Claude Haiku 5.5 则在 DeepSWE 长代码测试和长文本检索上领先。该模型在 Nvidia GPU 上每秒生成 1,068 个 token,定价为每百万输入 token 0.20 美元、输出 0.70 美元,发布期五折,已上线 Inception 平台及 OpenRouter、Baseten、Vercel,目前尚无独立测试。
正文 · AI 翻译
要点
Inception 表示,其新语言模型 Mercury 3 在一系列基准测试中击败了 GPT-6 Luna 和 Claude Haiku 5.5,同时运行速度快四到八倍。
在公告中,该公司称 Mercury 3 是迄今为止发布的最强大的扩散语言模型。
速度来自模型的构建方式。像 GPT 或 Claude 这样的模型一次写一个词,因此每个新词都必须等待前一个词。扩散模型最为人熟知的是图像生成领域。它们先勾勒出整个答案的粗略版本,然后经过多轮细化,一次生成许多词。谷歌关于 DiffusionGemma 的技术报告解释了这一基本思路。
Mercury 3 的领先幅度没有公告所暗示的那么大
Inception 自己的基准测试表讲述了一个更为复杂的故事。在三个模型均以中等设置运行的情况下,Mercury 3 在 12 项测试中赢了 8 项。差距最大的是指令遵循。在 IFBench 上,Mercury 3 得分为 76.84 分,比 GPT-6 Luna 高 15 分。它在 SWE-Bench Atlas 的自主编程测试中也明显领先,得分为 51.08 分,而竞争对手分别为 33.33 和 32.26。
Claude Haiku 5.5 在更长的编程测试 DeepSWE 中获胜。它在长文本中查找信息方面也更强。GPT-6 Luna 在 Artificial Analysis 的两项测试中略占上风。Inception 的简短概述更为谨慎,称 Mercury 3 的质量与对手相当或更好。
据 Inception 称,Mercury 3 在 Nvidia GPU 上每秒生成 1,068 个 token。在该公司的对比中,Claude Haiku 5.5 约为 240,GPT-6 Luna 约为 130。目前尚无独立测试。
Inception 表示,Mercury 3 的参数数量是 Mercury 1 的 40 多倍,但运行速度同样快。与小型 Mercury 1 mini 相比,性能也提升了两倍。Inception 认为这表明扩散模型能像标准语言模型一样随着规模扩大而可靠地提升。具体参数数量仍未披露。
Mercury 3 瞄准小延迟会累积的应用场景
Inception 主要将 Mercury 3 定位用于 AI 智能体、搜索、客户支持和辅导。AI 智能体通过许多独立步骤完成任务,并在每一步等待模型。这些小的延迟会迅速累积。
早期访问合作伙伴在公告中分享了他们的结果,其中大多数也关注速度。Octen AI 为智能眼镜构建搜索功能。“在智能眼镜上,一个需要五秒的答案会让人觉得坏了,”创始人邹宽说。他表示,搜索本身只花了约 80 毫秒,语言模型才是瓶颈。使用 Mercury 3 后,中位响应时间为 0.9 秒。整个过程耗时 2.2 秒。
教育公司 General Learning 表示,它现在能在约一秒内向学生提供提示和纠正。客户服务提供商 Lorikeet 报告响应时间更快,结果也更好。在 TinyFish AI,联合创始人张书豪表示,Mercury 3 被赋予 50 个真实网站上的导航任务。它解决了 25 个,击败了 GPT-6.1-Sol。张没有给出 OpenAI 模型的具体数字。
Mercury 3 的低价发布定价可能不会持续
常规定价为每百万输入 token 0.20 美元,每百万输出 token 0.70 美元。Inception 在发布时将价格减半。它没有说明折扣何时结束。此后,至少在输入较短的情况下,Mercury 3 的输出成本将高于 GPT-6 Luna 和 Claude Haiku 5.5,后两者均收费 0.50 美元。不过,对于非常长的提示,两个竞争对手的收费要高得多。Mercury 3 一次最多可处理 100 万个 token。
该模型可在 Inception 自己的平台以及 OpenRouter、Baseten 和 Vercel 上使用。它使用与 OpenAI 模型相同的 API,因此 Inception 表示开发者可以轻松切换。
今年 2 月,Inception 发布了 Mercury 2,称其为首个在回答前通过中间步骤进行推理的扩散模型。在此之前,这家初创公司筹集了 5000 万美元。投资方包括 Nvidia、Microsoft 和 Snowflake 的风险投资部门 NVentures、M12 和 Snowflake Ventures。
谷歌正在研究同样的方法。其 Gemini Diffusion 演示之后,6 月又推出了开放模型 DiffusionGemma。谷歌表示,它的运行速度最高可达标准 Gemma 4 的四倍,但结果略弱。