先了解这件事
AI 综述
2026年10月10日,Goodfire Research宣布在Llama 3.3 70B上训练并发布稀疏自编码器(SAE)及可解释模型API。据其介绍,该API开放了可解释模型,并称这是目前可公开获取的最强可解释性工具模型。官方材料展示了中间层特征空间的交互式UMAP地图,并演示了特征引导效果:引导强度0.4时模型开始出现海盗语气,0.6时多数事实仍正确但星系大小出错,强度1时大量事实错误。团队还表示改进了基于SAE的引导方法,并说明在Llama 3.1 8B和Llama 3.3 70B的SAE中分别移除了约30%和3.5%的特征,安全研究者可邮件申请未审核版本。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Goodfire 发布 Llama 3.3 70B 的稀疏自编码器与特征空间地图事件进展
1 个已确认进展
- 来源：Goodfire Research
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月10日
Goodfire Research一手
Goodfire 发布 Llama 3.3 70B 的稀疏自编码器与特征空间地图
Goodfire 在 Llama 3.3 70B 上训练了稀疏自编码器（SAE），并通过 API 开放该可解释模型，称这是目前可公开获取的最强可解释性工具模型。文章展示了中间层特征空间的交互式 UMAP 地图，并演示了特征引导效果，例如在引导强度 0.4 时模型开始出现海盗语气，0.6 时多数事实仍正确但星系大小出错，强度 1 时大量事实错误。团队还改进了基于 SAE 的引导方法，并说明在 Llama 3.1 8B 和 Llama 3.3 70B 的 SAE 中分别移除了约 30% 和 3.5% 的特征，安全研究者可邮件申请未审核版本。