先了解这件事
AI 综述
2025年10月27日,Lilian Weng就on-policy蒸馏方法发表评述。她认为,on-policy蒸馏提供了一种优雅的方式,将教师模型用作过程奖励模型,在rollout过程中提供密集奖励,同时避免SFT式的“OOD shock”。目前该评述已作为这一话题的最新进展被记录。
AI 根据公开报道生成
最新进展 · 正式报道
Lilian Weng：on-policy 蒸馏可作过程奖励模型事件进展
1 个已确认进展
- 来源：Lilian Weng
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月28日
Lilian Weng
Lilian Weng：on-policy 蒸馏可作过程奖励模型
On-policy 蒸馏提供了一种优雅的方式，将教师模型用作过程奖励模型，在 rollout 过程中提供密集奖励，同时避免 SFT 式的“OOD shock”。