先了解这件事
AI 综述
2026年10月2日,Baseten Base Labs 发布复现研究,针对 RL 训练轨迹可线性外推的结论进行验证。研究将 Qwen2.5-1.5B 在 MATH 上的第一个梯度步放大 1000 倍,准确率达到 66.7%,超过 500 步 GRPO 训练模型的 63.8%。但研究同时发现该提升存在局限:其效果主要来自修复基座模型的 doom loop 重复失败模式,在函数调用和 Knights & Knaves 等分布外任务上效果减弱,且扩展到 Qwen3-8B-Base 时增益消失。目前该研究仍为单一来源发布,尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Baseten Base Labs:单个梯度步的惊人效率——RL 轨迹线性外推复现研究事件进展
1 个已确认进展
- 来源:Baseten Base Labs:模型研究
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月2日
Baseten Base Labs:模型研究一手
Baseten Base Labs:单个梯度步的惊人效率——RL 轨迹线性外推复现研究
Baseten Base Labs 复现了 RL 训练轨迹可线性外推的结论,发现将 Qwen2.5-1.5B 在 MATH 上的第一个梯度步放大 1000 倍,准确率达 66.7%,超过 500 步 GRPO 训练模型的 63.8%。但这一提升主要来自修复基座模型的 doom loop 重复失败模式,在函数调用和 Knights & Knaves 等分布外任务上效果减弱,且扩展到 Qwen3-8B-Base 时增益消失。