←新闻详情

马东锡 NLP更新于 10月25日 21:16

东锡 NLP 启动后训练系列文章

预训练只教模型一件事:看到一段文字,猜下一个词。

AI 导读

Dongxi 东锡 NLP 宣布开启后训练系列文章,首篇指出预训练只教模型“看到一段文字猜下一个词”,预训练之后把 base model 变成有用助手的训练统称 post-training。该系列将后训练分为 instruction tuning、preference alignment 和 RLVR 三类技术,未来几周以文章加实验代码的形式展开。

引用

Dongxi 东锡 NLP

@dongxi_nlp

https://t.co/z7WTfTRn20

查看原文

https://t.co/z7WTfTRn20

查看原帖

正文

预训练只教模型一件事:看到一段文字,猜下一个词。

预训练之后,为了把 base model 变成有用的助手所做的一切训练,统称 post-training(后训练)。

后训练通常分成三种技术:instruction tuning, preference alignment, 以及 RLVR。

这是后训练系列文章的第一篇,在接下来的几周,争取用深入浅出的方式,把后训练呈现出来,会配合文章和实验代码。

来源

马东锡 NLP