先了解这件事
AI 综述
2026年10月10日,Goodfire Research 发布沿流形引导(manifold steering)方法,用于控制神经网络行为。该研究以 Llama-3.1 8B 的星期概念为案例,证明沿表示空间中的圆形流形进行干预比线性引导更精准:线性引导会横切行为流形,产生非星期 token 的噪声输出;沿流形引导则能干净地把概率质量从 Monday 依次转移到 Friday。研究还发现表示流形与行为流形形状对齐,并在月份、字母、年龄等更复杂任务中观察到类似结构。目前该研究仍为发布时的状态,尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Goodfire 研究：沿流形引导（Manifold Steering）控制神经网络事件进展
1 个已确认进展
- 来源：Goodfire Research
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月10日
Goodfire Research一手
Goodfire 研究：沿流形引导（Manifold Steering）控制神经网络
Goodfire Research 提出沿流形引导（manifold steering）方法，以 Llama-3.1 8B 的星期概念为案例，证明沿表示空间中的圆形流形干预比线性引导更精准。线性引导会横切行为流形，产生非星期 token 的噪声输出；沿流形引导则能干净地把概率质量从 Monday 依次转移到 Friday。研究还发现表示流形与行为流形形状对齐，并在月份、字母、年龄等更复杂任务中观察到类似结构。