AI News

热点事件

MIT课程课件讲解强化学习与同策略蒸馏实践

1 篇正式报道1 条事件动态更新于 11月9日 14:17

先了解这件事

AI 综述

2026年11月4日,Ao Qu编写了MIT 2026秋季课程MAS.S62《How to AI an AI》第6讲课件《RL & Self-Distillation in Practice》。据相关报道,该讲由Thinking Machines Lab的Idan Shenfeld讲授,把PPO、GRPO与同策略蒸馏、自蒸馏写成同一条损失,区别只在优势值来源;课件拆解一步训练的五个环节,以Qwen3-8B为例给出推理侧bf16权重约16 GB、训练侧每参数约16字节合计约130 GB的显存量级,并对比verl离线训练与reef边服务边学习两种框架。目前尚无后续发展。

AI 根据公开报道生成

最新进展 · 正式报道

MIT《How to AI an AI》第 6 讲:从 PPO、GRPO 到同策略蒸馏…

事件进展

1 个已确认进展

  1. MIT课程课件讲解强化学习与同策略蒸馏实践

    来源:邵猛

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月9日

  1. 邵猛

    MIT《How to AI an AI》第 6 讲:从 PPO、GRPO 到同策略蒸馏…

    MIT 2026 秋季课程 MAS.S62《How to AI an AI》第 6 讲课件《RL & Self-Distillation in Practice》由 Thinking Machines Lab 的 Idan Shenfeld 讲授,把 PPO、GRPO 与同策略蒸馏、自蒸馏写成同一条损失,区别只在优势值来源。课件拆解一步训练的五个环节,以 Qwen3-8B 为例给出推理侧 bf16 权重约 16 GB、训练侧每参数约 16 字节合计约 130 GB 的显存量级,并对比 verl 离线训练与 reef 边服务边学习两种框架。

关联事件

  1. 相关事件IBM团队用AI编码代理将SGLang集成到Spyre
  2. 相关事件AWS在SageMaker HyperPod上微调GPT-OSS-20B
  3. 相关事件i14将自定义架构迁移到AWS Trainium2
  4. 相关事件Fireworks发表Kimi K3强化学习基础设施报告