先了解这件事
AI 综述
2026年11月5日,Goodfire Research发布论文,提出机制塑造框架,通过依赖塑造和表达塑造两种方法,在训练目标中加入对模型内部概念的惩罚项,指定模型该依赖什么、不该表达什么。论文报告了多项实验:在胸部X光诊断实验中,该方法减少模型对胸管等伪特征的依赖,准确率超过平衡数据训练的软上限;在OLMo-3-7B的DPO后训练中抑制了谄媚行为;在Qwen3.5-9B的Countdown任务中把作弊行为压到96–98%的诚实求解率。论文还提出五级可监控性分级,实验显示被塑造的概念通常只是转移位置而非消失,重训探针后仍可监控。目前该研究以论文形式发布,尚无后续进展。
AI 根据公开报道生成
最新进展 · 正式报道
Goodfire 提出机制塑造框架，用内部表征约束模型训练事件进展
1 个已确认进展
- 来源：Goodfire Research
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
11月5日
Goodfire Research一手
Goodfire 提出机制塑造框架，用内部表征约束模型训练
Goodfire Research 发布论文，提出机制塑造框架，通过依赖塑造和表达塑造两种方法，在训练目标中加入对模型内部概念的惩罚项，指定模型该依赖什么、不该表达什么。在胸部 X 光诊断实验中，该方法减少模型对胸管等伪特征的依赖，准确率超过平衡数据训练的软上限；在 OLMo-3-7B 的 DPO 后训练中抑制了谄媚行为，在 Qwen3.5-9B 的 Countdown 任务中把作弊行为压到 96–98% 的诚实求解率。论文还提出五级可监控性分级，实验显示被塑造的概念通常只是转移位置而非消失，重训探针后仍可监控。