先了解这件事
AI 综述
METR员工David Rein与Anthropic合作,用三周时间对Anthropic内部智能体监控与安全系统的一个子集进行红队测试,相关系统在Opus 4.6 Sabotage Risk Report(附录8.4)中有描述。测试发现若干新型漏洞,部分已被修补,均未严重动摇该报告的主要结论,并产出包含隐蔽攻击的智能体轨迹和一个小型攻击策略构思测试集。26页报告已提交Anthropic,METR正探索将更多结论纳入未来风险报告。
AI 根据公开报道生成
最新进展 · 正式报道
METR 对 Anthropic 内部智能体监控系统进行红队测试事件进展
1 个已确认进展
- 来源：METR Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
3月26日
METR Blog一手
METR 对 Anthropic 内部智能体监控系统进行红队测试
METR 员工 David Rein 与 Anthropic 合作，用三周时间对 Anthropic 内部智能体监控与安全系统的一个子集进行红队测试，相关系统在 Opus 4.6 Sabotage Risk Report（附录 8.4）中有描述。测试发现若干新型漏洞，部分已被修补，均未严重动摇该报告的主要结论，并产出包含隐蔽攻击的智能体轨迹和一个小型攻击策略构思测试集。26 页报告已提交 Anthropic，METR 正探索将更多结论纳入未来风险报告。