数据中心 / 云 NVIDIA Vera Rubin NVL72 在 MLPerf Training v6.1 中实现最高达 Blackwell Ultra 2 倍的性能 2026年11月16日 作者: Farshad Ghodsian 和 Sukru Burc Eryilmaz 讨论 (0)

AI 生成摘要

  • NVIDIA Vera Rubin NVL72 在 MLPerf Training v6.1 中首次亮相,在七项基准中的六项上取得最快训练时间,单 GPU 性能最高达经过优化的 GB300 NVL72 基线的 2 倍。
  • 在 DeepSeek-V3 671B 混合专家基准上,Vera Rubin NVL72 使用 1,024 块 GPU 在 4.14 分钟内完成模型训练,将 GB300 NVL72 在相同规模下 8.03 分钟的成绩缩短了一半。
  • Vera Rubin NVL72 还在新增的 Qwen 3.5 397B GRPO 强化学习后训练基准中领先,在 1,024 块 GPU 上取得 10.44 分钟的成绩,并通过同时提交 TensorRT-LLM 和 vLLM 两种推理后端展现了软件成熟度。
  • 在 DeepSeek-V3 上从 256 块 GPU 扩展到 1,024 块 GPU 时,该平台保持了 97% 以上的扩展效率,这得益于每 GPU 提供 3.6 TB/s 带宽的铜缆 NVLink 6 骨干,以及通过 Quantum-X800 InfiniBand 或 Spectrum-X 以太网连接的 ConnectX-9 SuperNIC。
  • 使用更新软件栈进行的未验证重跑进一步缩短了 Vera Rubin NVL72 在 Llama 3.1 8B、gpt-oss 20B 和 DLRMv4 上的训练时间,表明硬件出货后仍在持续优化。
  • 封闭组别提交中有 80% 运行在 NVIDIA 平台上,涉及 20 家合作伙伴组织,Vera Rubin NVL72 系统已通过全球云基础设施合作伙伴全面上市。

后续步骤

由 NVIDIA Nemotron 提供支持。AI 生成内容可能不完整地概括信息。请核实重要信息。 了解更多

随着 AI 智能体处理日益复杂的工作流,缩短训练时间对于快速迭代模型及其驱动的智能体至关重要。MLPerf Training v6.1 标志着 NVIDIA Vera Rubin 架构的首次亮相,这些早期结果表明其 CUDA 软件栈已经高度成熟。首次亮相中,Vera Rubin NVL72 平台在七项基准中的六项上取得最快训练时间,性能最高达经过高度优化的 NVIDIA GB300 NVL72 基线的 2 倍。

对于第七项基准 DeepSeek-V3 671B,NVIDIA 通过在 10,240 块 GPU 的 GB300 NVL72 集群上展示大规模扩展,取得了本轮绝对最快时间。这种双平台策略有意展示了两套系统的优势。GB300 的结果凸显了 NVIDIA 当前正在部署的大规模、可靠集群能力,而 Vera Rubin 则通过从 256 块 GPU 扩展到 1,024 块 GPU 时保持 97% 以上的整体效率,展示了其卓越的扩展架构。总体而言,NVIDIA 平台在 v6.1 的每一项基准上都保持着最快训练时间。

NVIDIA 平台也是唯一在全部七项基准上都提交结果的平台,Vera Rubin 在首次运行中成功完成了整套测试。对开发者而言,这种广度与任何单项最高数字同样重要。它证明首日继承的性能提升覆盖整个建模流程,全面支持从大规模预训练到现代 AI 智能体所需的强化学习后训练。

覆盖所有 MLPerf 训练基准的全面 AI 性能

解读本轮结果最简单的方式是按基准来看:新平台在同一模型上每 GPU 能带来多少额外性能?

模型类型 基准 GPU 数量 Vera Rubin NVL72 对比优化后的 GB300 NVL72 提交 ID(Vera Rubin / GB300)
混合专家 DeepSeek-V3 671B 1,024 2x 6.1-0116 / 6.1-0030
混合专家 Qwen3.5 397B GRPO(RL) 64 1.4x 6.1-0135 / 6.1-0020
混合专家 gpt-oss 20B 64 1.6x 6.1-0135 / 6.1-0049
稠密 Llama 2 70B LoRA 72 1.5x 6.1-0123 / 6.1-0138
稠密 Llama 3.1 8B 72 1.6x 6.1-0073 / 6.1-0138
扩散 FLUX.1 72 1.5x 6.1-0124 / 6.1-0138
推荐系统 DLRMv4 128 1.4x 6.1-0129 / 6.1-0038
表 1. Vera Rubin NVL72 相对 GB300 NVL72 的单 GPU 性能,MLPerf Training v6.1,封闭组别

MLPerf Training v6.1 结果于 2026 年 11 月 16 日从 www.mlcommons.org 检索,来源条目为:6.1-0116、6.1-0030、6.1-0135、6.1-0020、6.1-0049、6.1-0123、6.1-0138、6.1-0073、6.1-0124、6.1-0129 和 6.1-0038。MLPerf 名称和徽标是 MLCommons Association 在美国和其他国家的商标。保留所有权利。严禁未经授权使用。更多信息请参见 www.mlcommons.org 。  

Bar chart comparing the training time in minutes between GB300 NVL72 (baseline 1X) and Vera Rubin NVL72 across seven MLPerf v6.1 benchmarks. Vera Rubin NVL72 achieves a 2X speedup on DeepSeek-V3 671B (4.14 vs 8.03 mins); a 1.6X speedup on gpt-oss 20B and Llama 3.1 8B; a 1.5X speedup on Llama 2 70B LoRA and FLUX.1; and a 1.4X speedup on Qwen3.5 397B GRPO and DLRMv4.
图 1. Vera Rubin NVL72 在全部七项 MLPerf Training v6.1 基准上相同 GPU 数量下相对 GB300 NVL72 的性能

MLPerf Training v6.1 结果于 2026 年 11 月 16 日从 www.mlcommons.org 检索,来源条目为:6.1-0116、6.1-0030、6.1-0135、6.1-0020、6.1-0049、6.1-0123、6.1-0138、6.1-0073、6.1-0124、6.1-0129 和 6.1-0038。MLPerf 名称和徽标是 MLCommons Association 在美国和其他国家的商标。保留所有权利。严禁未经授权使用。更多信息请参见 www.mlcommons.org 。  

规律很清晰。最大的提升出现在最大、通信最密集的模型上。虽然该平台在其余测试套件中稳定地快 1.4 倍至 1.6 倍,但在庞大的 DeepSeek-V3 基准上,代际优势进一步扩大。 

该套件涵盖自然语言、图像生成、推荐和强化学习,因此这些提升在多种模态以及不同模型形态和架构上均得以保持。

DeepSeek-V3 671B:在最严苛工作负载上每 GPU 2 倍性能

DeepSeek-V3 671B 是一个 6710 亿参数的 token 不丢弃混合专家(MoE)模型,也是整套测试中最严苛的工作负载。专家并行让每次迭代都变成一阵全对全通信突发,因此网络架构效率会直接体现在训练时间上。

Vera Rubin NVL72 使用跨 16 个机架的 1,024 块 GPU,在 4.14 分钟内完成了该基准测试。GB300 NVL72 在完全相同的 1,024 GPU 配置下运行了 8.03 分钟,每 GPU 性能接近 2 倍,是本轮中最大的代际提升。将训练时间减半,大致可使团队在一个季度内运行的实验数量翻倍,而实验吞吐量正是推动模型质量提升的关键。 

在更大规模下,GB300 NVL72 取得了本轮最快的绝对结果:跨 10,240 块 GPU 用时 1.38 分钟。这是一个训练任务分布在 160 个机架上,每个机架都是独立的 NVLink 域,这表明该平台的横向扩展网络架构在任务规模远超单个机架后仍能长期支撑。

后训练登场,Vera Rubin 领跑

MLPerf Training v6.1 新增了其 首个智能体 LLM 强化学习后训练基准, Qwen 3.5 397B GRPO,反映了 AI 开发方式的根本性转变。后训练已成为决定智能体准确性的关键差异化因素,使 GRPO 工作负载的要求格外严苛。生成 rollout、对其评分并更新权重的持续循环,迫使推理引擎与训练引擎之间进行持续、大规模权重迁移,从而将系统架构推向极限。

Vera Rubin NVL72 在该新基准上取得了最快成绩,在 1,024 块 GPU 下用时 10.44 分钟(6.1-0117),而 GB300 NVL72 在相同规模下用时 13.78 分钟(6.1-0031)。Vera Rubin 平台还通过提交两种不同的推理后端证明了其灵活性:NVIDIA NeMo RL 搭配 TensorRT-LLM 用时 10.44 分钟,搭配 vLLM 用时 10.94 分钟(6.1-0118)。在如此新的基准上交付两种可用的推理后端,既体现了软件成熟度,也体现了芯片实力。

要教会这些模型观察、推理和行动,需要在模拟环境中运行每一次 rollout,并执行工具调用、代码或 API 验证。由于驱动这些模拟是高度 CPU 密集型的, NVIDIA Vera CPU 是这一架构中不可或缺的组成部分,在单个 Vera CPU 机架内的 256 个 CPU 上维持超过 22,500 个并发 RL 环境。 

GPU 负责海量 token 生成和快速权重更新,而 Vera CPU 则同步协作来模拟环境,确保加速器持续获得完善智能体工作流所需的丰富反馈。

NVLink、Quantum-X 和 Spectrum-X:为高效 AI 扩展而协同设计的网络

上述每一项结果同时也是网络层面的结果。现代 AI 训练需要数千个处理器作为一个整体协同工作,NVIDIA 通过协同设计机架内部域和外部集群网络来解决这一挑战。

在机架内部,Vera Rubin NVL72 通过铜缆 NVLink 6 骨干网连接 72 个 GPU 和 36 个 CPU。该全互联域为每个 GPU 提供 3.6 TB/s、为每个机架提供 260 TB/s 的带宽,使 MoE 专家分发远离关键路径。在机架之外,该平台通过 ConnectX-9 SuperNIC,经由 Quantum-X800 InfiniBand 或 Spectrum-X 以太网进行横向扩展。为管理突发性 MoE 流量,这两种网络均采用自适应路由和拥塞控制,使全互联通信隐藏在计算层之后。

这种一体化设计直接转化为效率。在 DeepSeek-V3 基准测试中,Vera Rubin NVL72 从 256 块 GPU 扩展到 1,024 块 GPU(从 4 个机架扩展到 16 个机架)时,实现了超过 97% 的扩展效率。GB300 NVL72 展示了该平台的大规模能力,扩展至 10,240 块 GPU,取得了本轮最快的绝对结果。

由于 NVL72 架构提供了一致的 72-GPU 域,开发者每一代都能看到可预测的性能跃升,而无需改变其运营模式。每个周期都只是在同一套一致架构上提供更多算力和带宽。

Bar chart compares training times across three NVL72 system generations: the GB200 baseline at 12.36 minutes (1X), the GB300 at 8.03 minutes (1.5X speedup), and Vera Rubin at 4.14 minutes. Annotations highlight that Vera Rubin achieves a 2X speedup over the GB300 and a 3X overall speedup compared to the GB200.
图 2。 三代 NVL72 系统,均处于相同的 1,024-GPU 规模

MLPerf Training v6.1 结果检索自 www.mlcommons.org ,检索日期为 2026 年 11 月 16 日,来源条目如下:6.1-0045、6.1-0030 和 6.1-0116。比率已四舍五入。MLPerf 名称和徽标是 MLCommons Association 在美国和其他国家/地区的商标。保留所有权利。严禁未经授权使用。请参阅 www.mlcommons.org 了解更多信息。 

持续的软件优化:无需硬件升级即可实现更快的预训练

Vera Rubin 的成绩来自客户可获得的 NVIDIA AI 软件栈:用于预训练基准测试的 NVIDIA NeMo Framework 26.09、用于强化学习基准测试的 NVIDIA NeMo RL,以及用于 FLUX.1 和 DLRMv4 的 NVIDIA PyTorch 版本。这些优化正是 我们的 MLPerf Training v6.0 轮次.

中所描述的优化。该软件栈在一轮结束后仍持续演进。自 v6.1 提交最终确定以来,我们使用更新的软件构建,在相同硬件和配置上重新运行了若干基准测试。这些是未经核验的结果,而非 MLCommons 提交结果;我们分享它们,是因为它们展示了持续优化如何使 NVIDIA 基础设施具有高度的 生产力、耐用性和可替换性。 

基准测试 GPU 数量 GB300 NVL72 MLPerf v6.1 运行(MLPerf ID) Vera Rubin NVL72 MLPerf v6.1 运行(MLPerf ID) 2026 年 11 月未经验证结果 GB300 NVL72* 2026 年 11 月未经验证结果 Vera Rubin NVL72*
Llama 3.1 8B 72 11.541 分钟
(6.1-0138)
7.162 分钟
(6.1-0073)
9.211 分钟 6.140 分钟
gpt-oss 20B 64 18.24 分钟
(6.1-0049)
11.213 分钟
(6.1-0135)
13.151 分钟 8.080 分钟
DLRMv4 128 3.871 分钟
(6.1-0038)
2.829 分钟
(6.1-0129)
2.940 分钟 1.628 分钟
表 2. NVIDIA 在相同配置上使用更新的软件栈重新运行了基准测试 *未经核验的结果尚未经 MLCommons Association 核验。未经核验的结果尚未经过 MLPerf 审核,且可能使用与经核验结果的 MLPerf 规范不一致的测量方法和/或工作负载实现。
Bar chart displaying performance multipliers across three benchmark groupings: Llama 3.1 8B on 72 GPUs,  gpt-oss 20B on 64 GPUs, and DLRMv4 on 128 GPUs with the MLPerf training 6.1 GB300 NVL72 acting as baseline of 1. For Llama 3.1, the unverified GB300 is 1.3X, official Vera Rubin NVL72 is 1.6X, and the unverified Vera Rubin run reaches 1.9x. For gpt-oss, the unverified GB300 is 1.4X, official Vera Rubin NVL72 is 1.6X, and the unverified Vera Rubin run reaches 2.3x. For DLRMv4, the unverified GB300 is 1.3X, official Vera Rubin NVL72 is 1.4X, and the unverified Vera Rubin run reaches 2.4x.
图 3。 使用更新软件栈的未经核验重跑结果显示,Vera Rubin NVL72 的训练时间相比 MLPerf 6.1 GB300 NVL72 提交结果最高快 2.4 倍

MLPerfTraining v6.1 结果检索自 www.mlcommons.org ,检索日期为 2026 年 11 月 16 日,来自以下条目:6.1-0138、6.1-0073、6.1-0049、6.1-0135、6.1-0038 和 6.1-0129。比率已四舍五入。未经核验的结果尚未经 MLCommons Association 核验。未经核验的结果尚未经过 MLPerf 审核,且可能使用与经核验结果的 MLPerf 规范不一致的测量方法和/或工作负载实现。MLPerf 名称和徽标是 MLCommons Association 在美国和其他国家/地区的注册商标和非注册商标。保留所有权利。严禁未经授权使用。参见 www.mlcommons.org 获取更多信息。

这就是成熟的软件栈对客户的意义。基础设施在交付后变得更快,而且改进持续到来,延长了平台的高效使用周期和创收潜力。

由于 CUDA 平台具有高度可编程性,客户可以自行释放更多性能。例如, Thinking Machines Lab 在 GB300 NVL72 上为其 Inkling 2 Small 模型开发了 NVFP4 训练配方和自定义内核,在前向传播的 MoE GEMM 中使用 NVFP4,在梯度中使用 MXFP8。与完全使用 MXFP8 训练相比,它将预训练和微调速度提升了 8%,强化学习速度提升了 20%,而精度影响极小。 

首日即已就绪的生态系统

Vera Rubin 在 MLPerf Training v6.1 中的首次亮相证明,该架构专为立即全球部署而打造。在所有封闭组提交中,有 80% 运行在 NVIDIA 平台上,涵盖 20 家合作伙伴组织,这些基准测试代表了 可复现的性能 跨云和 OEM 厂商,而非孤立的实验室峰值。 

系统已在多个云基础设施合作伙伴中全面可用,与全球众多 AI Factory 部署形成互补。如今,Vera Rubin 在全部七项工作负载中均以每 GPU 性能领先,而 Blackwell 和 Blackwell Ultra 则保持着规模纪录。Azure 提交的 2,560 节点、10,240 GPU 的 GB200 NVL72 成绩与 NVIDIA 10,240 GPU 的 GB300 NVL72 运行成绩持平,共同夺得本轮最大集群的称号。  

合作伙伴还在节点层面不断突破该架构的极限:Firmus 采用 AI 驱动的内核生成,并结合自动化性能测试和数学验证,取得了本轮最快的 GB300 8-GPU 成绩,在 52.90 分钟内完成 GPT-OSS 20B 训练(6.1-0091),在 52.40 分钟内完成 Llama 3.1 8B 训练(6.1-0094)。由于这些平台共享持续优化的 CUDA 软件栈,开发者可以预期,这些首批指标在下一轮 MLPerf 开始之前就会稳步攀升。

随着 Vera Rubin 软件栈像 Blackwell 软件栈那样逐渐成熟,预计这些初始性能优势将在平台整个生命周期内持续释放更大的价值。

了解更多关于 NVIDIA Vera Rubin NVL72 平台 的信息,并查看 完整的 MLPerf Training v6.1 结果 或阅读我们的 MLPerf Endpoints v1.0 博客 ,了解 Vera Rubin 如何在智能体推理领域引领行业。

讨论 (0)

标签

智能体 AI / 生成式 AI | 数据中心 / 云 | 硬件 / 半导体 | Blackwell | ConnectX | GB200 | Grace CPU | NVLink | Spectrum-X 以太网 | 中级技术 | 基准测试 | Blackwell Ultra | 云服务 | 精选 | 大语言模型基准测试 | MLPerf | 软件定义数据中心 | 训练 | Vera Rubin

关于作者

Avatar photo 关于 Farshad Ghodsian
Farshad Ghodsian 是 NVIDIA 的高级技术营销工程师,专注于大规模 AI 训练与推理、性能优化洞察、新模型发布以及 AI 工程赋能。他在 AI 基础设施、分布式训练、GPU 加速计算和智能体工作负载的交叉领域拥有丰富经验。凭借这一背景,他将前沿研究转化为面向开发者、企业团队和业务领导者的实用洞察。在加入 NVIDIA 之前,Farshad 曾在领先的半导体和咨询公司担任技术职务,帮助顶级技术客户构建和管理大规模生成式 AI 与 MLOps 平台。 查看 Farshad Ghodsian 的所有文章 Avatar photo 关于 Sukru Burc Eryilmaz
S. Burc Eryilmaz 是 NVIDIA 的 GPU 架构高级经理。他的团队专注于通过硬件和软件创新,优化单节点规模和超级计算机规模下 AI 训练的端到端性能与能效。他拥有斯坦福大学博士学位和比尔肯特大学学士学位。 查看 Sukru Burc Eryilmaz 的所有文章

评论