先了解这件事
AI 综述
2026年8月24日,Artificial Analysis 对 NVIDIA Groq 3 LPX 进行基准测试。在 Gemma 4 31B、100K 上下文测试中,其输出速度中位数达到每秒3431个 Token;在 SPEED-Bench 上,中位速度为每秒4767个输出 Token,P80 为每秒5520个。材料称,其确定性执行、编译器调度芯片间通信,以及细粒度的计算与通信重叠,面向长上下文低延迟推理。
AI 根据公开报道生成
最新进展 · 正式报道
NVIDIA Groq 3 LPX 在 Vera Rubin 上实现长上下文超快交互事件进展
1 个已确认进展
- 来源：NVIDIA Developer · Generative AI
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
8月24日
NVIDIA Developer · Generative AI一手
NVIDIA Groq 3 LPX 在 Vera Rubin 上实现长上下文超快交互
NVIDIA 发布面向 Vera Rubin 平台的交互式 AI 推理加速器 Groq 3 LPX，Artificial Analysis 在 100K 上下文下用 Gemma 4 31B 实测中位输出速度为 3,431 tokens/秒，10K 上下文下为 3,382 tokens/秒。该加速器采用确定性执行模型，由编译器预先调度芯片间通信并细粒度重叠计算与通信，可与 Vera Rubin NVL72 组合用于 prefill-decode 分离、attention-FFN 分离和外部草稿模型投机解码等配置。在 SPEED-Bench 编码基准上，同一系统用 Gemma 4 达到中位 4,767 tokens/秒、P80 为 5,520 tokens/秒。