中国版 Groq 在哪里?为何中国不做无 HBM 芯片
Where is Chinese Groq? - by Aqib Zakaria and Hamish Low
AI 导读
ChinaTalk 文章探讨为何中国没有出现类似 Groq 的无 HBM 芯片。文章指出,2025 年底业界普遍认为 AI 推理必须依赖 HBM,因为推理解码是受内存带宽约束的操作;但此后市场趋于成熟,不再有单一架构通吃,不同芯片更适合训练、prefill 或 decode。
正文 · AI 翻译
中国版 Groq 在哪里?
为什么中国不做无 HBM 芯片?Aqib Zakaria 与 Hamish Low,2026年10月23日
2025年底,HBM 风头无两。AI 推理离不开 HBM;推理解码是受内存带宽约束的操作,只有 HBM 才能达到有效服务模型所需的带宽速度。
但自那以后市场已经成熟,不再有单一架构通吃一切。不同的芯片更适合训练、prefill 或 decode……