←事件详情

热点事件

Base Labs 复现 RL 轨迹线性外推并发现其局限

1 篇正式报道1 条事件动态更新于 10月2日 08:00

先了解这件事

AI 综述

2026年10月2日,Baseten Base Labs 发布复现研究,针对 RL 训练轨迹可线性外推的结论进行验证。研究将 Qwen2.5-1.5B 在 MATH 上的第一个梯度步放大 1000 倍,准确率达到 66.7%,超过 500 步 GRPO 训练模型的 63.8%。但研究同时发现该提升存在局限:其效果主要来自修复基座模型的 doom loop 重复失败模式,在函数调用和 Knights & Knaves 等分布外任务上效果减弱,且扩展到 Qwen3-8B-Base 时增益消失。目前该研究仍为单一来源发布,尚无后续发展事实。

AI 根据公开报道生成

最新进展 · 正式报道

Baseten Base Labs:单个梯度步的惊人效率——RL 轨迹线性外推复现研究

事件进展

1 个已确认进展

  1. Base Labs 复现 RL 轨迹线性外推并发现其局限

    来源:Baseten Base Labs:模型研究

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月2日

  1. Baseten Base Labs:模型研究一手

    Baseten Base Labs:单个梯度步的惊人效率——RL 轨迹线性外推复现研究

    Baseten Base Labs 复现了 RL 训练轨迹可线性外推的结论,发现将 Qwen2.5-1.5B 在 MATH 上的第一个梯度步放大 1000 倍,准确率达 66.7%,超过 500 步 GRPO 训练模型的 63.8%。但这一提升主要来自修复基座模型的 doom loop 重复失败模式,在函数调用和 Knights & Knaves 等分布外任务上效果减弱,且扩展到 Qwen3-8B-Base 时增益消失。

关联事件

  1. 相关事件Goodfire提出基于探针的数据归因方法
  2. 相关事件Nvidia发布Nemotron 3.5 Super VL与Bolt模型
  3. 相关事件LG AI Research 博客介绍 ACL 2026 主题分配论文
  4. 相关事件提出低成本大模型蒸馏方案