先了解这件事
AI 综述
Anthropic可解释性团队在Fellows Program项目中由Kola Ayonrinde主导,提出J++ lens,作为J-lens的改进版,可即插即用地替换原方法。该工作按层对激活值聚类并分别拟合Jacobian,再用学习权重组合,同时引入R-lens的逐层相关性传播和虚假读出token后置过滤。团队称在评测中它比J-lens和R-lens更可靠地读出模型推理所用的中间隐变量,并已公开代码、lens及Neuronpedia交互demo。
AI 根据公开报道生成
最新进展 · 正式报道
Anthropic 可解释性团队发布 J++ lens，改进模型中间层概念读取事件进展
1 个已确认进展
- 来源：Anthropic：Transformer Circuits
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月30日
Anthropic：Transformer Circuits一手
Anthropic 可解释性团队发布 J++ lens，改进模型中间层概念读取
Anthropic 可解释性团队在 Fellows Program 项目中由 Kola Ayonrinde 主导，提出 J++ lens，作为 J-lens 的改进版，可即插即用地替换原方法。J++ lens 按层对激活值聚类并分别拟合 Jacobian，再用学习权重组合，同时引入 R-lens 的逐层相关性传播和虚假读出 token 后置过滤。团队称在评测中它比 J-lens 和 R-lens 更可靠地读出模型推理所用的中间隐变量，并已公开代码、lens 及 Neuronpedia 交互 demo。