NVIDIA 微调 Nemotron 家族，在 IOI 与 IMO 取得金牌级成绩

可复用的专业化配方

“易于微调”不应仅仅意味着让一个检查点变得可训练。它应当意味着，一个能力强大的基础模型能够通过一套清晰、可复用的配方，适配到要求严苛的领域。

在这两个项目中，这套配方包含四个部分：

从强大的 Nemotron 基础模型出发。

精心整理领域特定问题与高质量推理轨迹。

应用标准的后训练方法，例如 SFT，并在有用时应用 RL。

将专家模型与一个推理循环配对，该循环负责生成、评估并改进候选答案。

训练和推理的运行规模都很大，但底层方法熟悉且可复现。我们无需为每一项挑战都构建新的基础模型。我们针对任务对 Nemotron 进行了专业化。

从通用编码能力到 IOI 金牌

对于竞赛编程，我们整理了 22,000 道问题，并生成合成推理轨迹来训练两个专家模型。Nemotron-3-Nano-CC 总参数 300 亿、激活参数 30 亿，接受了 SFT 和 RL。Nemotron-3-Ultra-CC 总参数 5500 亿、激活参数 550 亿，接受了 SFT。

在 IOI 2025 上的进展让专业化的价值一目了然。Nano 从后训练前的 130 分提升到 SFT 后的 280 分，再到 RL 后的 291 分。借助 GenCorrect——我们迭代式生成-评估-改进策略——它达到 468 分，越过了 438.3 的金牌门槛。Ultra-CC 在相同的测试时策略下达到 502 分。

这些实验还表明，适配在每个规模上不必看起来都一样。SFT 贡献了 Nano 的大部分增益，RL 则带来了较小但持续的提升。对于更强的 Ultra 模型，一个 SFT 轮次就足以在 IOI、ICPC 和 LiveCodeBench Pro 上超越完全后训练的 Nano 模型。这一发现指导了用于 IOI 2026 的竞赛专用 Ultra-CC 系统，该系统在 600 分中获得了 535.4 分。

教 Nemotron 证明、检查与修订

IMO 项目将同样的思路应用于奥数。从 Nemotron 3 Ultra 出发，我们训练了一个 SFT 专家模型和另一个 RL 专家模型。

SFT 语料包含 414,890 个经过质量过滤的示例，覆盖 15,818 道独特的证明题。它不只教最终答案。数据涵盖证明生成、改进、验证和元验证，因此模型学会了构建论证、识别漏洞、回应批评，并判断证明是否完整。RL 模型则在 9,597 道接近模型能力前沿的证明题上训练。

两个后训练检查点在开发实验中均优于通用可用模型。SFT 检查点在第一轮搜索中最强，而 RL 检查点取得了最佳的单检查点总体结果。它们的优势互补，因此最终系统同时使用了两个专家模型和通用模型。

对于每道 IMO 题，模型生成候选证明、为其打分、给出批评，并改进最有希望的尝试。一个独立的高算力阶段选出最终提交。整个系统以自然语言工作，不使用形式化证明器、外部工具或互联网访问。它在 42 分中获得 30 分，包括六道题中四道的满分，并超过了官方金牌门槛。

微调与测试时算力协同工作

我们早先关于 IOI 2025 的 Hugging Face 博文展示了测试时算力如何将开放权重模型推向金牌级表现。新结果补充了重要的一环：更好的专业化让推理系统拥有更好的候选、更好的批评者和更好的改进。

在 IOI 中，GenCorrect 将微调带来的增益转化为多轮反馈中的更大提升。在 IMO 中，使用互补的 SFT 和 RL 检查点比简单地从单一检查点抽取更多样本更有价值。在两种情况下，最佳结果都来自将能力强大的专家模型与一个能够搜索、验证和改进的系统相结合。

这一区别很重要。奖牌并非仅靠微调产生，也并非仅靠暴力采样产生。它们来自对模型、数据和推理循环的协同设计。

在 Hugging Face 上开放模型、数据和配方

我们希望这些结果在竞赛之外也有用。Nemotron Labs IMO 2026 合集汇集了 SFT 和 RL 检查点、两个训练数据集，以及 Nemotron-IMO-Bench——一个包含 200 道奥数级问题的新基准。IMO 论文描述了训练方法和生成-验证-改进系统，而 NeMo-Skills 仓库包含 IMO 推理流程、提示词、提交的证明以及可复现的快速入门。对于竞赛编程，Nemotron-3-Ultra-CC 模型已在 Hugging Face 上提供，IOI 论文提供了训练配方和 GenCorrect 方法。IOI 评估和推理流程也可在 NeMo-Skills 中获取。

IMO 和 IOI 共同为一个简单的想法提供了异常严苛的证据：Nemotron 可以被微调成世界级的领域专家，然后与透明的推理工作流组合，解决处于人类竞赛前沿的问题。

我们期待看到 Hugging Face 社区接下来构建什么。

本文提及的模型 1

本文提及的合集 1

Nemotron Labs IMO 2026

来自该作者的更多内容

本文提及的模型 1

本文提及的合集 1

Nemotron Labs IMO 2026