东锡 NLP 发布 Post Training 系列第五篇:Reward Model
Post Training 系列第五篇,Reward Model
AI 导读
Dongxi NLP 发布 Post Training 系列第五篇,主题是 Reward Model,将其定位为 Bradley-Terry 的倒影。文章围绕选择如何变成损失、损失如何改变网络、网络结构长什么样,以及 RM 在训练中还学到了什么展开。
查看原帖https://t.co/U16aELoBik
查看原文
https://t.co/U16aELoBik
正文
Post Training 系列第五篇,Reward Model
如题目,Reward Model 是 Bradley-Terry 的倒影。
选择怎样变成损失, 损失怎样改变网络, 网络长什么样, RM 在训练中还学到了什么
( 依然非常干... https://t.co/rEhGFfJJOw