Cerebras:快速推理找到节奏
Fast Inference Finds its Groove
Cerebras 回顾 2025 年:DeepSeek R1 Llama 70B 在其芯片上以超过 1500 tokens/秒运行,约为 GPU 的 57 倍;Artificial Analysis 独立测试显示其推理性能超过 NVIDIA Blackwell 的纪录。Cognition 的 SWE-1.5 与 SWE-grep 系列实现前沿级编码性能,速度最高达通用模型的 13 倍。Cerebras 在俄克拉荷马州启用 40+ exaflop 数据中心,并在北美和欧洲布局超过 7 个数据中心。
正文 · AI 翻译
2026年1月6日
我是在学跳阿根廷探戈时遇见我妻子的。在探戈里,你没法靠糊弄走完舞步。你必须感受节奏,聆听当下,并实时做出回应。用力过猛,整个舞就崩了。找到那个律动,一切就都打开了。
2025年,AI也迎来了它自己的探戈时刻。
在过去十年的大部分时间里,人们用能训练多大的模型来衡量AI的进步。更大的集群、更大的预算、更大的数字。但根基变了。业界开始明白——不是停留在理论上,而是在实践中——推理速度不是用来炫耀的资本。它是决定AI系统在现实世界中能做什么的真正约束。
在Cerebras,我们多年来一直坚信这一点。我们打造了史上最大的芯片,因为这是从源头解决延迟、吞吐量和成本的唯一途径。GPU系统从来就不是为AI的这一阶段而设计的,渐进式的改进也无法完成任务。2025年,这一信念终于与客户的直接体验相吻合。
这一年以DeepSeek R1 Llama 70B以每秒超过1,500个token的速度运行拉开序幕,约为GPU的57倍。这一结果震动了整个社区。它表明推理可以从瓶颈转变为赋能者。它也标志着一波采用浪潮的开始。我们与Hugging Face和Mayo Clinic团队的早期合作公告,展示了快速训练和快速推理如何在开源和基因组AI领域开辟新路径。
生产系统很快跟进。Perplexity Sonar和Mistral Le Chat成为早期范例,展示了当延迟消失时,实时、高质量响应是什么感觉。AlphaSense展示了速度提升十倍如何重塑商业分析和决策。与Inception和MBZUAI共同开发的新一代最先进语言模型,以只有在极高速下才可能的方式推动了主权AI向前发展。
Artificial Analysis的独立测试很快证实了我们在实地所看到的情况。他们的评估显示,Cerebras在来自美国和全球AI实验室的领先模型上,超越了NVIDIA Blackwell的推理纪录。
这一时刻验证了晶圆级计算的表现与众不同,并且它现在是大型模型推理的最佳架构。
同样的模式贯穿全年。更快的推理催生了更智能、能力更强的AI系统。Sean Lie和James Wang在《The Cerebras Scaling Law》中清晰地描述了这一点,解释了能够在相同时间内思考更多的模型如何产生更好的结果。我们在前沿模型中看到了这一点。
这些不是渐进式的改进。它们改变了人们能够构建的东西。
新产品从这一转变中涌现。Cognition的SWE-1.5和SWE-grep系列实现了前沿级编码性能,速度最高可达通用模型的13倍。开发者第一次能够在探索代码库、交付功能和调试复杂系统时保持心流状态。NinjaTech AI推出了Fast Deep Coder,将软件创建速度提升了五到十倍。在Cerebras的驱动下,Rox的收入代理团队报告称,随着响应达到“即时”水平,每日参与度有所提高。与AWS Marketplace、IBM watsonx、Vercel和OpenRouter的新合作持续为所有AI构建者开辟更快的路径。
我们的基础设施大幅扩展,以跟上这一需求。我们在俄克拉荷马州启用了一个40+ exaflop的数据中心,并在北美和欧洲布局了超过7个数据中心。9月,我们还完成了G轮融资,为公司引入了新的长期合作伙伴,并为下一阶段的增长夯实了基础。
我们继续践行对主权AI的承诺,推出了Cerebras for Nations,并与MBZUAI和Inception共同发布了JAIS2。年末,我们与美国能源部的Genesis Mission达成了新的承诺,并有幸获得台积电的年度演示奖。
综合来看,去年发生的一切讲述了一个简单的故事。世界上最优秀的构建者能立刻感受到快与慢的差别。他们想要Cerebras。节奏已经改变。
2025年是证明。2026年是我们找到律动的一年。舞池已开放。让我们起舞吧。
性能对比基于第三方基准测试或内部测试。观察到的相对于GPU系统的推理速度提升可能因工作负载、配置、日期和所测试的模型而异。
1237 E. Arques Ave Sunnyvale, CA 94085