←搜索结果

搜索“Anthropic”

按匹配度 · 共 3265 条结果 清除搜索

星期三

  15. 事件1 条新闻 · 1 个事实

    Anthropic可解释性团队报告字典学习特征分类器初步工作

    Anthropic可解释性团队报告了使用字典学习特征作为分类器的初步工作。该团队尝试用字典学习提取的特征激活训练生物武器有害提示分类器。结果显示,线性特征分类器性能可与原始激活分类器竞争甚至更优,决策树分类器性能较弱但更易解释。特征分类器还能可视化以发现标注数据集中的伪相关,并据此构造对两类分类器都有效的对抗攻击,但整体流程比直接用原始激活复杂得多。

    匹配字段标题

  17. 事件1 条新闻 · 1 个事实

    Anthropic 提出稀疏 crosscoder 方法

    Anthropic 的 Transformer Circuits 提出稀疏 crosscoders,一种可同时读写多层激活的稀疏自编码器变体。该方法能产生跨层甚至跨模型的共享特征,可用于解决跨层叠加、简化电路分析,以及在不同训练阶段、微调版本乃至架构完全不同的独立模型之间做模型对比(model diffing)。该文给出理论示例和初步实验,电路简化的具体结果留待后续更新。目前尚无后续发展事实。

    匹配字段标题

  19. 事件1 条新闻 · 1 个事实

    Anthropic可解释性团队分享稀疏自编码器训练改进

    Anthropic可解释性团队发布2025年1月Circuits更新,分享了训练稀疏自编码器与crosscoder的改进方案。据该团队介绍,改进内容包括JumpReLU激活、pre-act loss以及新的初始化方式。团队表示这些属于初步实验,希望为外部训练稀疏自编码器的团队提供一个起点。目前该更新由Anthropic:Transformer Circuits发布,尚无其他后续发展事实。

    匹配字段标题