英伟达实质收购 Groq 后，Groq 下一代芯片拟弃 SRAM 改用 3D 堆叠 DRAM
英伟达实质收购Groq后首度出手！下一代AI芯片架构大转向 弃SRAM改采3D堆叠DRAM
AI 导读
外媒报道称，被英伟达实质性收购的 Groq 正评估在下一代芯片中引入 3D 堆叠 DRAM 封装技术，方案名为 3DS，利用 TSV 在 DRAM 芯片内打穿数千微孔垂直互连。与追求数据交换速率的 HBM 不同，3DS 在保持现有 DRAM 标准接口协议的前提下侧重存储容量扩张。Groq 的 LPU 架构依赖的 SRAM 容量极小，面对千亿级参数模型存在容量瓶颈，3D 堆叠意在维持速度优势的同时解决存不下的问题。
正文
外媒最新报道指出，AI半导体领域传出架构剧变信号，以高速SRAM设计闻名、近期遭英伟达实质性收购的芯片公司Groq正评估在下一代芯片中引入3D堆叠DRAM封装技术，试图摆脱传统SRAM架构的容量瓶颈。
目前，AI芯片多采2D封装，Groq计划导入3D封装，将多个半导体裸片垂直堆叠，其方案名为3DS，核心是利用TSV（硅通孔）技术在DRAM芯片内打穿数千微孔垂直互连，犹如为存储器建起摩天大楼，在单位面积内提供超高显存密度。
与英伟达高端显卡常用的HBM不同，两者虽均采TSV堆叠，但HBM追求极致数据交换速率，3DS则在保持现有DRAM标准接口协议的前提下，将重心放在存储容量扩张。对于必须载入海量参数的AI推理任务，此举是更务实的降本增效方案。
长期以来，Groq的LPU架构因极高推理速度备受瞩目，但依赖的SRAM容量极小，单芯片面对千亿级参数模型时捉襟见肘。
DRAM虽然原生读写速度略逊于SRAM，但大容量特性在复杂模型部署中更具优势。通过3D堆叠，Groq试图在维持速度优势同时解决“存不下”痛点，为超大型AI模型推理铺路。