先了解这件事
AI 综述
Goodfire Research 发布论文,提出 RLFR(Reinforcement Learning from Feature Rewards),即基于特征奖励的强化学习方法,用模型内部表征上的轻量探针作为强化学习奖励信号来减少幻觉。该论文称,在 Gemma-3-12B-IT 上,该方法将幻觉率降低 58%,每次干预成本约为 LLM-as-judge 方案的 1/90,且标准基准无退化;训练约 360 步、花费约 2500 美元,探针在训练后仍可用于测试时监控与扩展。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Goodfire 提出 RLFR：用可解释性探针作奖励降低幻觉事件进展
1 个已确认进展
- 来源：Goodfire Research
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月10日
Goodfire Research一手
Goodfire 提出 RLFR：用可解释性探针作奖励降低幻觉
Goodfire 发布论文提出 RLFR（Reinforcement Learning from Feature Rewards），用模型内部表征上的轻量探针作为强化学习奖励信号来减少幻觉。在 Gemma-3-12B-IT 上，该方法将幻觉率降低 58%，每次干预成本约为 LLM-as-judge 方案的 1/90，且标准基准无退化。训练约 360 步、花费约 2500 美元，探针在训练后仍可用于测试时监控与扩展。