OpenAI 发布 GPT-6 Cyber，可挖掘漏洞并生成补丁

要点

OpenAI 推出了 GPT-6 Cyber，这是一款专门训练用于搜寻软件安全漏洞的 AI 模型。

OpenAI 表示，该模型能够发现缺陷、构建可用的漏洞利用代码，并给出补丁建议。它还应能始终待在其被分配的边界之内，而近几个月来 OpenAI 的一些模型在这方面一直难以做到。

该公司称，它训练 GPT-6 Cyber 遵守其操作护栏，所用手段之一是一个受 Hugging Face 事件启发的蜜罐。在没有任何特殊安全指令的情况下，GPT-6 Cyber 在 99.93% 的案例中避免了越界行为，高于其前代的 94.49%。在启用安全指令的情况下，该模型在 100% 的测试中都保持在边界之内。总体而言，OpenAI 在其自身的 Preparedness Framework 的网络安全类别中将 GPT-6 Cyber 评为“Critical”，这与它给“基础”模型 GPT-6 Astra 的评级相同。

在 ExploitGym 这一用于测试模型能否利用远程系统中给定漏洞的基准上，据 OpenAI 称 GPT-6 Cyber 得分为 48.5%，而其前代 GPT-5.6 Cyber 为 32.1%。在一项针对在无法访问源代码的情况下寻找 Web 应用漏洞的新测试中，OpenAI 报告其命中率为 40.3%，而未经过网络安全训练的标准模型 GPT-6 Astra 为 32.0%。

完整结果可在系统卡中查阅。所有基准数字均来自 OpenAI 自身。迄今为止，尚未有对该模型的独立测试公布。

GPT-6 Cyber 已在 Firefox 和 Linux 内核中发现真实漏洞

据 OpenAI 称，GPT-6 Cyber 已在真实世界的安全研究中取得成果。在一次针对性行动中，该模型在 Firefox 中发现了 81 个此前未知的严重漏洞，尽管该浏览器此前已经用更早的 AI 模型测试过。该模型还表明，30 个已知问题比之前认为的更严重。Mozilla 接受了这些报告，并已发布修复程序。

据 OpenAI 称，在 Linux 内核中，GPT-6 Cyber 复现了 1,724 个安全漏洞，并为其中 948 个开发出可用的漏洞利用代码，是 GPT-5.6 Sol 在相同条件下所完成的 166 个的五倍多。该公司表示，已向 Linux 维护者报告了 304 项关键发现，并附上了建议的修复方案。

在 Linux 内核行动中，OpenAI 构建了一套由侦察代理和分析代理组成的专用自动化系统。它们首先扫描了内核中约 5,034 个与安全相关的位置，约占整个代码库的百分之七，然后将这些位置筛选至 2,308 个候选，并在隔离的虚拟机中确认了 1,724 个漏洞。在此基础上，该系统开发出了 OpenAI 已经报告的 948 个可用漏洞利用代码。据 OpenAI 称，整个运行过程消耗了 1,213,430 美元的算力，折算下来每个漏洞利用代码为 1,279 美元。相比之下，Pwn2Own 和 TyphoonPWN 等项目历来为同类发现支付 20,000 至 70,000 美元的赏金。

OpenAI 表示，这些智能体至少使用了十种新颖的攻击技术，这些技术此前甚至不为外部内核安全专家所知。按照 OpenAI 的说法，这些模型既复现了已知的攻击模式，也找到了自己的方法。这一说法有多大分量，取决于你如何狭义地定义“自己的方法”。研究人员对于 AI 模型究竟能否真正做出新发现，还是只是重新组合训练中见过的东西，仍然存在分歧。

OpenAI 目前仅向部分客户开放访问权限

据 OpenAI 称，GPT-6 Cyber 最初通过 API 和 Codex 向一组精选的 Daybreak Red 客户提供。访问权限将逐步扩大到所有 Daybreak Red 客户。与此同时，GPT-5.6 Cyber 正向所有 Daybreak Red 用户开放，而针对 GPT-6 Astra 的 Daybreak Blue alpha 访问权限将扩展到更多组织和独立安全研究人员。

OpenAI 承认，随着模型能力不断增强，滥用尝试也在增加。一些行为者和团体已试图将模型能力转移到他们自己的系统中。

OpenAI 列出了几项对策：检查模型的行为是否与用户权限相符、针对新披露漏洞的定向监控、通过其所谓的“私有安全处理”进行自动化安全检查、对 Daybreak Red 实施基于 IP 的访问限制，以及建议在有人工监督的隔离环境中运行该模型。

OpenAI 特别关注保护发电厂和水处理设施等关键基础设施。为了让防御者更容易获得访问权限，该公司提到了其耗资十亿美元的“Daybreak for Frontline Defenders”资助计划，以及一个名为“Daybreak Red for Critical Infrastructure”的新子组织，用于授权测试。

OpenAI 谈到了一个有限的窗口期，在此期间可以利用顶级模型来保障软件安全。目标是让 Daybreak 计划扩展到各种规模的组织、独立研究人员和开源维护者。至于这是否真的会奏效，则是另一个问题。Epoch AI 的研究人员刚刚证明，开源的 GLM 模型本可以利用已知但仍未修补的 Firefox 漏洞。