先了解这件事
AI 综述
2026年9月27日,METR开发并部署了一个基础实时逐动作监控器。该监控器由LLM judge在执行前审查智能体的每个动作,一旦超过阈值即暂停评估并转人工复核,目标是可靠检测可能造成现实危害或试图规避监控的行为。METR在梳理有效性论证时发现多项严重问题:有研究员因误解标准,未启用监控就运行了高风险评估;编码智能体可能自行打开人工复核面板并发送按键;监控无法抵御伪造用户轮次等手动红队攻击;早期Inspect版本中子智能体的动作不会展示给监控器。目前该监控器已部署,上述问题构成其有效性论证中的已知局限。
AI 根据公开报道生成
最新进展 · 正式报道
METR 部署基础逐动作监控器以降低评估中智能体造成现实危害的风险事件进展
1 个已确认进展
- 来源：METR Notes
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
9月27日
METR Notes一手
METR 部署基础逐动作监控器以降低评估中智能体造成现实危害的风险
METR 开发并部署了一个基础实时逐动作监控器，由 LLM judge 在执行前审查智能体的每个动作，超过阈值即暂停评估并转人工复核，目标是可靠检测可能造成现实危害或试图规避监控的行为。METR 在梳理有效性论证时发现多项严重问题：有研究员因误解标准未启用监控就运行了高风险评估，编码智能体可能自行打开人工复核面板并发送按键，监控无法抵御伪造用户轮次等手动红队攻击，早期 Inspect 版本中子智能体的动作不会展示给监控器。