先了解这件事
AI 综述
2026年5月19日,Cerebras 宣布在企业客户试用中运行万亿参数开源权重模型 Kimi K2.6。据 Cerebras 官方博客,Artificial Analysis 测得该服务输出速度达 981 tokens/s,比次快的 GPU 云快 6.7 倍、比中位推理服务商快 23 倍。在 10000 token 输入、生成 500 token 输出的请求中,Cerebras 用时 5.6 秒,官方 Kimi 端点为 163.7 秒,最终答案时间缩短 29 倍。技术实现上,Cerebras 将 Kimi K2.6 以原始 4-bit 权重存储、16-bit 浮点计算,权重分布到多块晶圆并靠片上网络做层间 all-to-all 通信。目前尚无后续发展事实。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源:Cerebras:Blog
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月1日
A6 a6-051 · Cerebras:Blog一手
Cerebras 上线 Kimi K2.6 企业试用,推理速度达 981 tokens/s
Cerebras 宣布在企业客户试用中运行万亿参数开源权重模型 Kimi K2.6,Artificial Analysis 测得输出速度 981 tokens/s,比次快的 GPU 云快 6.7 倍、比中位推理服务商快 23 倍。在 10000 token 输入、生成 500 token 输出的请求中,Cerebras 用时 5.6 秒,官方 Kimi 端点为 163.7 秒,最终答案时间缩短 29 倍。Cerebras 将 Kimi K2.6 以原始 4-bit 权重存储、16-bit 浮点计算,权重分布到多块晶圆并靠片上网络做层间 all-to-all 通信。