先了解这件事
AI 综述
2025年7月25日,Jan Leike 引用 Anthropic 发布的一项新研究指出,智能体已能自动完成对齐审计任务,成功率为 42%。该研究开发了三个 AI 智能体来自主完成对齐审计,测试中成功发现了隐藏目标、构建了安全评估并暴露出令人担忧的行为。Leike 表示,今年 3 月发表的论文中,这一找出被训练成失准模型的问题的任务由人类团队负责,如今智能体已能自动完成。目前该说法仅有这一来源,尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Anthropic 研究：对齐审计智能体自动发现问题成功率达 42%事件进展
1 个已确认进展
- 来源：Jan Leike
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
7月25日
Jan Leike
Anthropic 研究：对齐审计智能体自动发现问题成功率达 42%
Anthropic 发布新研究，开发了三个 AI 智能体来自主完成对齐审计任务，测试中成功发现了隐藏目标、构建了安全评估并暴露出令人担忧的行为。Jan Leike 引用该研究指出，今年 3 月发表的论文中由人类团队负责找出被训练成失准模型的问题，如今智能体已能自动完成这一任务，成功率为 42%。