←事件详情

热点事件

Anthropic可解释性团队发现特征相似度随样本长度上升

1 篇正式报道1 条事件动态更新于 10月13日 20:32

先了解这件事

AI 综述

Anthropic可解释性团队在2025年9月Circuits更新中报告,语言模型中不同语言激活特征的相似度(IoU)会随样本长度增加而上升。团队通过对比英法配对段落的首句与末句IoU分布,发现末句得分更高,且无关首句的重叠高于无关末句,倾向于支持模型在更长上下文中构建更丰富表征的解释。该发现由Anthropic官方渠道发布,目前尚无后续发展事实。

AI 根据公开报道生成

最新进展 · 正式报道

Anthropic 可解释性团队 2025 年 9 月 Circuits 更新

事件进展

1 个已确认进展

  1. Anthropic可解释性团队发现特征相似度随样本长度上升

    来源:Anthropic:Transformer Circuits

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月13日

  1. Anthropic:Transformer Circuits一手

    Anthropic 可解释性团队 2025 年 9 月 Circuits 更新

    Anthropic 可解释性团队在 9 月 Circuits 更新中报告,语言模型中不同语言激活特征的相似度(IoU)会随样本长度增加而上升。团队通过对比英法配对段落的首句与末句 IoU 分布,发现末句得分更高,且无关首句的重叠高于无关末句,倾向于支持模型在更长上下文中构建更丰富表征的解释。

关联事件

  1. 相关事件Anthropic可解释性团队报告字典学习特征分类器初步工作
  2. 相关事件Anthropic训练单层Transformer研究干扰权重
  3. 相关事件Anthropic 从 Claude 3 Sonnet 提取高质量可解释特征
  4. 相关事件Anthropic 提出 SoLU 提升 MLP 神经元可解释性