先了解这件事
事件摘要
还没有公开综述，先看下面的报道时间线。
最新进展 · 正式报道
Anthropic 用字典学习分解语言模型，提取单义特征事件进展
2 个已确认进展
- 来源：Anthropic：Transformer Circuits
- 来源：Anthropic：Transformer Circuits
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月13日
Anthropic：Transformer Circuits一手
Anthropic 用字典学习分解语言模型，提取单义特征
Anthropic 在 Transformer Circuits 发布研究，用稀疏自编码器对单层 Transformer 的 MLP 激活做字典学习，从 80 亿数据点中提取出比神经元更单义的可解释特征。研究聚焦 A/1 运行学到的 4096 个特征，发现阿拉伯文、DNA、base64、希伯来文等特征在神经元视角下几乎不可见，且激活这些特征能引导模型生成对应内容。作者还报告特征在不同模型间具有普遍性，并会随字典规模增大而分裂成更细的特征家族。
Anthropic：Transformer Circuits一手精选
Anthropic 从 Claude 3 Sonnet 中提取可解释特征
Anthropic 可解释性团队将稀疏自编码器扩展到 Claude 3 Sonnet，从这一中型生产模型中提取出高质量特征，此前该方法只在一层小模型上验证过。团队训练了 1M、4M 和 34M 三种规模的自编码器，发现特征具有多语言、多模态和抽象性，并可用缩放规律指导训练。研究还发现与安全相关的特征，包括代码漏洞、偏见、欺骗和谄媚，但作者强调这些特征的存在本身不足以推断模型的实际危害。