热点事件

Base Labs研究蒸馏对RL后准确率的影响

1 篇正式报道1 条事件动态更新于 9月23日 08:00

先了解这件事

事件摘要

还没有公开综述，先看下面的报道时间线。

最新进展 · 正式报道9月23日 08:00

1 个已确认进展

按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。

08:00
Baseten Base Labs：模型研究一手
蒸馏何时对强化学习有帮助？Base Labs 研究
Baseten Base Labs 用 Qwen3 0.6B、1.7B、4B、8B 四个规模对比 GRPO 直接强化学习与先蒸馏（SFT）再强化学习，蒸馏在 RL 前均提升准确率，但 RL 后收益随学生模型增大而递减：0.6B 提升 11.3%、1.7B 提升 13.1%、4B 仅 2.1%，8B 时纯 RL 反而高出 6.4%。