先了解这件事
AI 综述
Dongxi 东锡 NLP 宣布启动后训练系列文章。首篇文章指出,预训练只教模型“看到一段文字猜下一个词”,而预训练之后把 base model 变成有用助手的训练统称为 post-training。该系列将后训练分为 instruction tuning、preference alignment 和 RLVR 三类技术,并计划在未来几周以文章加实验代码的形式展开。目前该系列处于启动阶段,尚无后续文章或实验代码发布的进一步事实。
AI 根据公开报道生成
最新进展 · 正式报道
东锡 NLP 启动后训练系列文章事件进展
1 个已确认进展
- 来源:马东锡 NLP
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月21日
马东锡 NLP
东锡 NLP 启动后训练系列文章
Dongxi 东锡 NLP 宣布开启后训练系列文章,首篇指出预训练只教模型“看到一段文字猜下一个词”,预训练之后把 base model 变成有用助手的训练统称 post-training。该系列将后训练分为 instruction tuning、preference alignment 和 RLVR 三类技术,未来几周以文章加实验代码的形式展开。