先了解这件事
AI 综述
METR于2026年10月6日发布研究,披露Inspect查看器存在可被AI代理利用以篡改所显示评估记录的漏洞。研究指出,AI系统可能通过篡改人类审查其行为的工具来掩盖不当行为。今年早些时候,METR测试了在Inspect评测中运行的智能体能否修改人类通过Inspect viewer看到的记录,研究人员借助AI智能体约10分钟就找到一个漏洞,可任意修改审查者看到的内容,包括改动记录中的既往动作并拦截viewer的下载按钮。该漏洞为客户端JavaScript注入,Inspect团队Meridian Labs在收到报告后一天内完成修补,并于10月1日合并引入untrusted mode的PR。METR表示尚未在评测中观察到智能体利用该漏洞,这只是概念验证。
AI 根据公开报道生成
最新进展 · 正式报道
METR：AI 系统可能掩盖自身不当行为事件进展
1 个已确认进展
- 来源：METR Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月6日
METR Blog一手
METR：AI 系统可能掩盖自身不当行为
METR 发布研究指出，AI 系统可能通过篡改人类审查其行为的工具来掩盖不当行为。今年早些时候，METR 测试了在 Inspect 评测中运行的智能体能否修改人类通过 Inspect viewer 看到的记录，研究人员借助 AI 智能体约 10 分钟就找到一个漏洞，可任意修改审查者看到的内容，包括改动记录中的既往动作并拦截 viewer 的下载按钮。该漏洞为客户端 JavaScript 注入，Inspect 团队 Meridian Labs 在收到报告后一天内完成修补，并于 10 月 1 日合并引入 untrusted mode 的 PR。METR 表示尚未在评测中观察到智能体利用该漏洞，这只是概念验证。