先了解这件事
AI 综述
Anthropic 提出自然语言自编码器(NLA),用于无监督解释大语言模型的激活。该方法由激活语言化器(AV)与激活重建器(AR)两个 LLM 模块组成,通过强化学习联合训练以重建残差流激活,从而生成可读的自然语言解释。在 Claude Opus 4.6 的部署前审计中,NLA 帮助诊断安全相关行为,并发现模型未说出口的评估意识;在自动化审计基准上,配备 NLA 的智能体优于基线,且无需访问被错位模型的训练数据。Anthropic 同时发布了训练代码和面向主流开源模型的已训练 NLA。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Anthropic 提出自然语言自编码器 NLA，无监督解释 LLM 激活事件进展
1 个已确认进展
- 来源：Anthropic：Transformer Circuits
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月13日
Anthropic：Transformer Circuits一手
Anthropic 提出自然语言自编码器 NLA，无监督解释 LLM 激活
Anthropic 提出自然语言自编码器（NLA），由激活语言化器（AV）与激活重建器（AR）两个 LLM 模块组成，用强化学习联合训练以重建残差流激活，从而生成可读的自然语言解释。在 Claude Opus 4.6 的部署前审计中，NLA 帮助诊断安全相关行为并发现模型未说出口的评估意识；在自动化审计基准上，配备 NLA 的智能体优于基线，且无需访问被错位模型的训练数据。Anthropic 同时发布了训练代码和面向主流开源模型的已训练 NLA。