先了解这件事
AI 综述
2026年7月18日,LMSYS 在 Miles 中实现了 On-Policy Distillation(OPD),支持纯蒸馏与结合 GRPO/PPO 的 RL 增强蒸馏两种模式,并新增稀疏学生到教师打分流程以避免稠密 logprob 负载。据 LMSYS Blog 同日发布的信息,团队在单台 8×NVIDIA B200 节点上用 Qwen3.5-35B-A3B 做自蒸馏实验:教师经 RLVR 训练后推理更短,学生为 RL 前基座,任务奖励设为零,仅用 top-1 学生-教师 reverse-KL 训练。结果显示,OPD 能在不损失性能的前提下将教师的短推理行为迁移给学生。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Miles 新增 OPD 支持：Qwen3.5 自蒸馏实验验证事件进展
1 个已确认进展
- 来源：LMSYS Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
7月18日
LMSYS Blog一手
Miles 新增 OPD 支持：Qwen3.5 自蒸馏实验验证
LMSYS 在 Miles 中实现了 On-Policy Distillation（OPD），支持纯蒸馏与结合 GRPO/PPO 的 RL 增强蒸馏两种模式，并新增稀疏学生到教师打分流程以避免稠密 logprob 负载。在单台 8×NVIDIA B200 节点上，团队用 Qwen3.5-35B-A3B 做自蒸馏实验：教师经 RLVR 训练后推理更短，学生为 RL 前基座，任务奖励设为零，仅用 top-1 学生-教师 reverse-KL 训练，结果显示 OPD 能在不损失性能的前提下将教师的短推理行为迁移给学生。