先了解这件事
AI 综述
2026年10月28日,Dongxi 东锡 NLP 发布一篇面向 LLM 读者的强化学习(RL)术语讲解,文章称其“干得像沙漠”。该文用一个例子串讲 policy、state、action、reward、value、advantage、baseline、TD error、GAE、clipping、KL 等术语,作者也坦言 RL 很难写得生动有趣。目前仅有这一篇发布记录,尚无后续发展。
AI 根据公开报道生成
最新进展 · 正式报道
东锡NLP用单例讲解RL术语事件进展
1 个已确认进展
- 来源:马东锡 NLP
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月28日
马东锡 NLP
东锡NLP用单例讲解RL术语
Dongxi 东锡 NLP 发布了一篇关于强化学习(RL)术语的讲解,称其“干得像沙漠”。文章针对 LLM 读者,用一个例子串讲 policy、state、action、reward、value、advantage、baseline、TD error、GAE、clipping、KL 等术语,作者也坦言 RL 很难写得生动有趣。
马东锡 NLP
写给 LLM 读者的强化学习术语:一个分数如何分到每个 token
文章以 DeepSeek-R1-Zero 在 AIME 2024 上 pass@1 从 15.6% 升到 71.0% 为例,说明规则 judge 只给整段回答一个分数,而训练要调整每个 token 的概率。作者用 Is OpenAI open? 的采样例子依次解释 policy、state、action、reward、return、value、Q、advantage、baseline、TD error、GAE、clipping 和 KL,并指出 PPO 用 critic 学习 V、GRPO 用组内平均分代替 V。