先了解这件事
2026年11月17日,NVIDIA公布Vera Rubin NVL72在MLPerf Endpoints v1.0的暂定结果。NVIDIA Developer · Generative AI发布的文章称,在每用户端到端交互性不低于50 tokens/s的条件下,Vera Rubin NVL72的每千瓦吞吐超过GB300 NVL72十倍。文章进一步说明,在Kimi K3、DeepSeek-V4.1-Flash和Qwen3.6-35B-A3B三个模型上,Vera Rubin NVL72的每千瓦吞吐为GB300 NVL72的5到10倍,相同并发下端到端交互性为3到5倍。文章还介绍了前缀缓存、状态复用、NVIDIA Dynamo路由、分离式服务,以及DeepSeek MegaMoE kernel、Qwen多token预测等优化。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
NVIDIA Vera Rubin NVL72 在 MLPerf Endpoints…事件进展
1 个已确认进展
- 来源:NVIDIA Developer · Generative AI
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
11月17日
NVIDIA Developer · Generative AI一手精选
NVIDIA Vera Rubin NVL72 在 MLPerf Endpoints…
NVIDIA 公布 MLPerf Endpoints v1.0 暂定结果,Vera Rubin NVL72 在每用户端到端交互性不低于 50 tokens/s 的条件下,每千瓦吞吐超过 GB300 NVL72 十倍。在 Kimi K3、DeepSeek-V4.1-Flash 和 Qwen3.6-35B-A3B 三个模型上,Vera Rubin NVL72 的每千瓦吞吐为 GB300 NVL72 的 5 到 10 倍,相同并发下端到端交互性为 3 到 5 倍。文章还介绍了前缀缓存、状态复用、NVIDIA Dynamo 路由、分离式服务以及 DeepSeek MegaMoE kernel、Qwen 多 token 预测等优化。