东锡 NLP 启动后训练系列文章
预训练只教模型一件事:看到一段文字,猜下一个词。
AI 导读
Dongxi 东锡 NLP 宣布开启后训练系列文章,首篇指出预训练只教模型“看到一段文字猜下一个词”,预训练之后把 base model 变成有用助手的训练统称 post-training。该系列将后训练分为 instruction tuning、preference alignment 和 RLVR 三类技术,未来几周以文章加实验代码的形式展开。
查看原帖https://t.co/z7WTfTRn20
查看原文
https://t.co/z7WTfTRn20
正文
预训练只教模型一件事:看到一段文字,猜下一个词。
预训练之后,为了把 base model 变成有用的助手所做的一切训练,统称 post-training(后训练)。
后训练通常分成三种技术:instruction tuning, preference alignment, 以及 RLVR。
这是后训练系列文章的第一篇,在接下来的几周,争取用深入浅出的方式,把后训练呈现出来,会配合文章和实验代码。