先了解这件事
AI 综述
Anthropic在Transformer Circuits发表研究,检验大语言模型能否察觉并识别自身内部状态。研究通过向模型激活中注入已知概念的表示,结果显示Claude Opus 4和4.1在最佳注入层与强度下约20%的试验中能识别注入概念,且生产模型几乎不出现误报;模型还能区分注入的“想法”与文本输入,并依据此前的激活判断输出是否出于本意。作者强调这种内省能力高度不可靠且依赖上下文,后训练策略会显著影响表现。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Anthropic 研究：大语言模型是否具备涌现的内省意识事件进展
1 个已确认进展
- 来源：Anthropic：Transformer Circuits
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月13日
Anthropic：Transformer Circuits一手
Anthropic 研究：大语言模型是否具备涌现的内省意识
Anthropic 在 Transformer Circuits 发布研究，通过向模型激活中注入已知概念的表示，检验大语言模型能否察觉并准确识别自身内部状态。结果显示 Claude Opus 4 和 4.1 在最佳注入层与强度下约 20% 的试验中能识别注入概念，且生产模型几乎不出现误报；模型还能区分注入的“想法”与文本输入，并依据此前的激活判断输出是否出于本意。作者强调这种内省能力高度不可靠且依赖上下文，后训练策略会显著影响表现。