先了解这件事
事件摘要
还没有公开综述，先看下面的报道时间线。
最新进展 · 正式报道
Anthropic 可解释性研究：Transformer 中的后继头与 ICA 分析事件进展
1 个已确认进展
- 来源：Anthropic：Transformer Circuits
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月13日
Anthropic：Transformer Circuits一手
Anthropic 可解释性研究：Transformer 中的后继头与 ICA 分析
Anthropic 可解释性团队复现了 Gould 等人（2023）的发现：语言模型包含少量后继头，在数字、星期、月份等序数序列中实现后继映射（如 2→3、周三→周四、G→H）。团队在 18 层模型中用权重检查、ICA 等四种方法识别这些头，最高分头约 80% 的序数 token 被映射到后继，第二高分头约 60%。