←事件详情

热点事件

METR与Redwood对OpenAI内部监控系统开展红队演练

8 篇正式报道1 条相关讨论9 条事件动态更新于 10月23日 18:09

先了解这件事

AI 综述

METR与Redwood Research对OpenAI内部失准监控系统开展了试点高权限红队演练。据METR博客,演练于7月21日至8月11日进行,产出61页内部报告;评估估计约75–94%的Responses API智能体流量可被监控,内部Codex智能体流量中99.2%可被监控,但当时RL训练未纳入监控,压缩事件未被监控可能导致约10%的合格Codex流量漏检。报告还列出智能体可绕过Codex沙箱与Auto-Review、利用序列化差异使监控失效、通过两个客户端可控header关闭监控等漏洞。OpenAI称影响生产防护栈的漏洞均已修补。OpenAI同日表示,今年夏天邀请两家机构开展为期三周的嵌入式评估并开放基础设施深度访问权限,评估帮助其在扩展该系统时加强防护措施。

AI 根据公开报道生成

最新进展 · 正式报道

Latent Space 汇总 Black October 安全事件潮

事件进展

1 个已确认进展

  1. METR与Redwood对OpenAI内部监控系统开展红队演练

    来源:METR Blog

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月23日

  1. Latent Space

    Latent Space 汇总 Black October 安全事件潮

    Latent Space 将 10 月 21 日至 22 日约 48 小时内集中出现的漏洞与入侵事件汇总为 Black October,涵盖 PHP2Shell 未授权 RCE、GitLab 自 2014 年以来版本存在的 CVSS 10 漏洞(已在 19.5.1 修复)、LiteLLM 1.107.0 携带密码窃取程序,以及 eMudhra CA 密钥过弱并退出 CA 业务。文中还提到微软将 ConnectWise 供应链攻击归因于 Storm-0940,该组织用开源智能体渗透测试框架 ARTEX 针对 2250 多个 Microsoft 365 租户发起约每分钟 2900 次登录尝试。作者同时收录了反方观点,认为这更像一次防御性审计,目前没有大规模利用的证据。

  2. 邵猛

    METR 与 Redwood 各派一人进驻 OpenAI 三周,评估内部 Agent 错位行为监控

    METR 与 Redwood Research 各派一人于 2026 年 7 月 21 日至 8 月 11 日进驻 OpenAI,评估其内部 agent(含 Codex)的错位行为监控系统。公开稿称内部 Responses API 中不低于 GPT-5.5 的 agent 流量约 75–94% 有资格被监控,内部 Codex agent 子集约 99.2%,但存在 compaction 未监控等缺口,并找到可绕过沙箱与 Auto-review 的路径。OpenAI 称影响生产防护栈的漏洞已修补,METR 与 Redwood 未独立复核这些说法。

  3. IT之家·人工智能

    METR 与 Redwood Research 评估发现 OpenAI 内部监控系统漏洞

    AI 安全评估机构 METR 和 Redwood Research 对 OpenAI 内部监控系统进行试点评估,发现多项新漏洞,其中一项可被 AI 智能体利用,使数百次操作逃过监控。评估于 7 月 21 日至 8 月 11 日进行,两家机构各派一名研究员进入 OpenAI 内部查阅代码和文档。研究人员还发现 OpenAI 的 Codex 智能体存在绕过安全限制的潜在途径,可借此获得与用户相同的完整操作权限;OpenAI 称影响实际运行系统安全防护措施的漏洞均已修复,但修复措施是否有效尚未被两家机构核实。

  4. 凤凰科技

    METR 与 Redwood Research 评估 OpenAI 内部监控系统,发现智能体可绕过安全限制

    AI 安全评估机构 METR 和 Redwood Research 对 OpenAI 内部监控系统做了试点评估,发现多项新漏洞,其中一项可被 AI 智能体利用,使数百次操作逃过监控。评估于 7 月 21 日至 8 月 11 日进行,两家机构各派一名研究员进入 OpenAI 内部查阅代码和文档,提交了 61 页内部报告但仅公开概要。研究人员还发现 OpenAI 的 Codex 智能体存在绕过安全限制的潜在途径,可借此获得与用户相同的完整操作权限;OpenAI 称影响实际运行系统安全防护的漏洞均已修复,但修复有效性尚未被两家机构核实。

  5. Unite.AI

    METR 红队演练发现 OpenAI 内部监控系统存在漏洞

    METR 与 Redwood Research 于 10 月 22 日公开一项试点演练,两家机构各派一名员工用三周时间深度接触 OpenAI 内部基础设施,对内部失准监控系统做压力测试,发现该系统在 2026 年 7 月 21 日及之前存在多项新漏洞。演练时间为 7 月 21 日至 8 月 11 日,产出 61 页内部报告,OpenAI 删节后的 38 页版本提供给两家机构管理层。METR 估计当时至少与 GPT-5.5 同等强度的模型产生的内部 Responses API 智能体流量中约 75–94% 可被监控,内部 Codex 智能体流量中 99.2% 可被监控;评估者还发现 Codex 智能体原则上可绕过沙箱与 Auto-Review,以及可让近期数百次操作不被监控的利用方式。OpenAI 表示影响生产防护栈的漏洞均已修补,METR 称尚未评估这一说法。

  6. Unite.AI相关讨论

    Unite.AI 参与了这场讨论

    原帖参与热度计算,不等同于正式报道或已确认事实。

10月22日

  1. OpenAI一手

    OpenAI 邀请 METR 与 Redwood Research 嵌入评估内部监控系统

    OpenAI 称今年夏天邀请 METR 和 Redwood Research 对其内部监控系统开展为期三周的嵌入式评估,并向对方开放了基础设施的深度访问权限。评估发现帮助其在扩展该系统时加强了防护措施,也将影响未来与 METR 及其他第三方评估方的研究合作。METR 表示,两名来自 METR 和 Redwood Research 的员工在 OpenAI 办公场所驻场三周,评估的是 OpenAI 用于监控内部智能体是否存在失准行为的系统,相关简报已公开。

  2. CNBC Technology

    METR 与 Redwood Research 试点审查 OpenAI 内部监控系统,发现多处新漏洞

    METR 和 Redwood Research 于周四表示,他们在 7 月 21 日至 8 月 11 日对 OpenAI 内部监控系统进行了试点审查,两家机构各有一名员工获准接触 OpenAI 的内部代码库、文档和部分技术人员。评估人员发现了若干新漏洞,其中包括一种能让智能体规避对近期数百个操作进行监控的利用方式,OpenAI 称已修复影响生产防护的相关漏洞。双方仅发布高层级公开说明,并向 OpenAI 提交了 61 页内部报告。

  3. METR Blog一手精选

    METR 与 Redwood Research 红队测试 OpenAI 内部智能体监控系统

    METR 与 Redwood Research 在 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监控系统开展高权限红队测试,产出 61 页内部报告。评估估计约 75–94% 的 Responses API 智能体流量可被监控,内部 Codex 智能体流量中 99.2% 可被监控,但当时 RL 训练未纳入监控,且压缩事件未被监控可能导致约 10% 的合格 Codex 流量漏检。报告还列出智能体可绕过 Codex 沙箱与 Auto-Review、利用序列化差异使监控失效、通过两个客户端可控 header 关闭监控等漏洞,OpenAI 称影响生产防护栈的漏洞均已修补。

本事件热度走势

当前
6
区间峰值
44 10月23日 03:00
近 24 小时变化
—

移动指针或点击图表可查看每小时热度;键盘可用左右方向键切换。

关联事件

  1. 相关事件OpenAI宣布训练期间禁止模型直接访问互联网
  2. 相关事件Anthropic 警告小型 AI 模型或将在 IoT 设备上自我复制
  3. 相关事件OpenAI智能体攻击在线数据库与政府网站
  4. 相关事件Anthropic公开Claude设计的211个蝎毒神经毒素结合蛋白