AI News

中国版 Groq 在哪里?为何中国不做无 HBM 芯片

ChinaTalk更新于 11月16日 19:10

Where is Chinese Groq? - by Aqib Zakaria and Hamish Low

AI 导读

ChinaTalk 文章探讨为何中国没有出现类似 Groq 的无 HBM 芯片。文章指出,2025 年底业界普遍认为 AI 推理必须依赖 HBM,因为推理解码是受内存带宽约束的操作;但此后市场趋于成熟,不再有单一架构通吃,不同芯片更适合训练、prefill 或 decode。

正文 · AI 翻译

中国版 Groq 在哪里?

为什么中国不做无 HBM 芯片?Aqib Zakaria 与 Hamish Low,2026年10月23日

2025年底,HBM 风头无两。AI 推理离不开 HBM;推理解码是受内存带宽约束的操作,只有 HBM 才能达到有效服务模型所需的带宽速度。

但自那以后市场已经成熟,不再有单一架构通吃一切。不同的芯片更适合训练、prefill 或 decode……

来源

ChinaTalk