英伟达旗下 Groq 下一代 LPU 架构转向 3D 堆叠 DRAM，瞄准更大模型时代的容量需求

cnBeta.COM.TW_中文业界资讯站 首页影视音乐游戏动漫趣闻科学软件主题硬件AppleGoogleiPhone科学探索人物手机游戏视点·观察阿里云微软通信技术Android软件和应用SONY 索尼the United States美国Apple iPadWindows PhoneIntel英特尔腾讯HTC安全Mozilla FireFox小米科技百度通信运营商媒体播放器 / 视频网站BlackBerry 黑莓网络应用 / Web AppsGoogle ChromeMicrosoft XBOX硬件 - 上网本 / 平板电脑 / 超极本电子商务 - B2C / B2BLenovo 联想LGYahoo! 雅虎AMDSNS 社交网络诺基亚Windows 7Huawei 华为中国移动中国联通中国电信更多...排行

已被英伟达纳入麾下的 AI 推理芯片公司 Groq 正计划在下一代 LPU（Language Processing Unit，语言处理单元）产品中引入 3D 堆叠 DRAM 技术，以替代当前广泛采用的 SRAM 方案。这一调整意味着该公司未来将更加侧重提升芯片存储容量，以适应不断膨胀的大型人工智能模型需求。

今年早些时候，英伟达公布了 Groq LPX 机架产品，将其纳入 Vera Rubin 生态体系，以强化 AI 推理性能表现。该机架已于今年 8 月进入全面量产阶段。根据早期测试结果，在与 NVL72 服务器协同工作的情况下，系统可实现每秒 3400 个 Token 的推理速度，创下新的性能纪录。

现有一代 Groq LPU 采用 500MB SRAM 设计，内存带宽高达 150TB/s。在 LPX 机架中，系统配置了 256 颗此类芯片，总计提供 128GB SRAM 容量以及 640TB/s 的扩展带宽能力。单颗 Groq LPU 则能够提供约 1.20 PFLOPs 的 FP8 算力。

不过在下一代产品上，Groq 准备采取截然不同的路线。公司计划放弃单纯依赖 SRAM 的方案，转而采用 DRAM，并结合 3D Stacked（3D 堆叠）封装技术打造新架构。与 SRAM 相比，DRAM 最大优势在于能够提供远高于 SRAM 的存储容量，但代价是带宽和访问速度相对较低。

一名半导体行业人士表示，Groq 已经计划在下一代芯片中引入 3D 封装技术，而堆叠对象将从现有的 SRAM 转变为 DRAM。业内普遍将这一举动解读为 Groq 希望大幅提升芯片存储容量。SRAM 虽然速度极快，但容量扩展受限；相较之下，DRAM 虽然速度较慢，却更适合构建大规模存储系统。

通过采用 3D 堆叠技术，Groq 可以在单个垂直结构芯片中堆叠多层 DRAM，并利用 TSV（硅通孔）技术实现层间连接。这种设计理念与当前高带宽存储器 HBM 的实现方式十分相似。相比传统 DRAM 封装，3D 堆叠方案不仅能够显著提高单位面积存储密度，还能改善能效表现并减少占用空间。

从目前披露的信息来看，Groq 此次产品升级的重点明显转向存储容量，同时仍希望尽可能保留其 SRAM 架构所带来的部分高带宽优势。随着生成式 AI 模型规模持续扩大，对大容量高速内存的需求也在不断增长，因此新一代 Groq 芯片有望获得更广泛应用。

报道还提到，未来 Groq 或许不会完全放弃 SRAM，而是将 DRAM 与 SRAM 产品线并行发展，根据不同应用场景提供差异化解决方案。对于正在建设 AI 工厂和 AI 平台的英伟达而言，这类更高容量的推理芯片也有望在未来发挥更重要的作用。

-

对文章打分

英伟达旗下Groq下一代LPU架构转向3D堆叠DRAM 瞄准更大模型时代的容量需求

爆料称RTX 5090与RTX 5080 16GB或于明年1月停产 英伟达尚未确认

2 小时前

奔驰和英伟达深化战略合作 推动下一代辅助驾驶系统的开发

15 小时前

英伟达DLSS帧生成新性能模式 RTX40/50帧率最高提升35%

昨天 14:10

二手卡也保修 RTX 5090频繁插拔烧接口 英伟达直接免票换新

Claude想让中国人全被封号：天才AI的访问头脑战 阅读 (1016) 评论 (1)

2

80、90后经历过的那个盗版年代 好像又要回来了 阅读 (850) 评论 (0)

3

几十元笔记本清灰变上千元维修：大学生网购“官方售后”遭遇连环套 阅读 (721) 评论 (4)

4红米手机竟然刷上了iOS Redmi Note 12成功启动iOS 16项目已开源

5DeepSeek V4.1 Flash成本低到发指：1美元13亿Token

6斩获M站99分！“女版乔布斯”世纪骗子纪录片口碑封神

7来自菲律宾的“女菩萨” 想用OnlyFans赚钱盖学校

8新版DeepSeek，离顶级AI还差多远？

9索尼更新高端Walkman产品线：三款新旗舰亮相 顶级型号售价高达5899美元

10苹果79美元 iPhone Duo保护壳采用粘胶固定设计引发关注

1

Windows 11 26H2 ISO镜像已发布 微软同时更新安装介质并延续小型启用包机制 阅读 (1994) 评论 (1)

2

中国女主播坐上“付费旋转椅” 观众花50元可转一圈 奇特直播模式引发全球热议 阅读 (1328) 评论 (2)

3

Google研究员称Windows NT内核设计至今仍让Linux相形见绌 阅读 (1317) 评论 (3)

4转转“神秘眼镜女”称被造黄谣 已报警

5“车子我肯定不要了”尊界V800刹车踏板被踩断 车主急忙退订 专家直指严重缺陷

6王自如劝退iPhone 18 Pro：一场关于“换机价值”的公开讨论

7Anthropic已限制华为AI芯片使用Claude Opus 5.5开发前沿模型

8懂车帝再发布测试视频：智界V9等多款车型六次制动未出现刹车踏板支架断裂

9《街霸》电影春丽演员回应粗大腿"造假"：我没空P图

10Claude想让中国人全被封号：天才AI的访问头脑战

created by ceallan