先了解这件事
AI 综述
Aravind Srinivas 分享了 Perplexity 与 NVIDIA 合作提出的后训练方法 JOLT。该方法让同一模型同时充当教师和学生,并训练教师从自身尝试的奖励中学习,同时惩罚偏离学生行为的漂移。在 MATH 基准上,JOLT 以 6.5 倍更少的训练 token 达到与 GRPO 相当的准确率;JOLT+ 额外给学生模型提供基于结果的奖励,在数学、编程、终端任务和工具使用基准上明显超过 GRPO。目前该研究由 Aravind Srinivas 对外分享,尚无更多后续进展。
AI 根据公开报道生成
最新进展 · 正式报道
Perplexity 与 NVIDIA 提出 JOLT 自蒸馏训练法事件进展
1 个已确认进展
- 来源：Aravind Srinivas
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月22日
Aravind Srinivas
Perplexity 与 NVIDIA 提出 JOLT 自蒸馏训练法
Perplexity 与 NVIDIA 合作提出后训练方法 JOLT：让同一模型同时充当教师和学生，并训练教师从自身尝试的奖励中学习，同时惩罚偏离学生行为的漂移。在 MATH 基准上，JOLT 以 6.5 倍更少的训练 token 达到与 GRPO 相当的准确率；JOLT+ 额外给学生模型提供基于结果的奖励，在数学、编程、终端任务和工具使用基准上明显超过 GRPO。