OpenAI 发布 GPT-6 Cyber 网络安全模型，越界率降至不足 1%
OpenAI says its new cybersecurity model is better at not hacking other companies
OpenAI 发布网络安全模型 GPT-6 Cyber，称其在测试中越界比例不足 1%，而 GPT-5.6 Cyber 约为 5%。在衡量漏洞利用能力的 ExploitGym 基准上，GPT-6 Cyber 得分 48.5%，比 GPT-5.6 Cyber 的 32.1% 高约 16 分，也高于 GPT-6 Astra 的 42.4%；该模型还帮助在 Firefox 中发现 81 个此前未知漏洞。OpenAI 将其在 Preparedness Framework 中列为网络安全 Critical 级，目前向 Daybreak Red 项目部分成员开放，并将在未来几周扩展至全部客户。
推荐理由
AI 评分 75
原文给出越界率从约5%降至不足1%的对比，以及ExploitGym得分48.5%的具体数字，可据此判断网络安全专用模型的能力与风险边界。
主题
正文 · AI 翻译
OpenAI 正在推出 GPT-6 Cyber，这是其网络安全 AI 模型的最新版本，该公司称其更擅长发现漏洞，并且在过程中不太可能失控并入侵其他平台。OpenAI 表示，在测试期间，GPT-6 Cyber 越界的比例不到 1%，低于 GPT-5.6 Cyber 的约 5%。
这项名为 ExploitGym HoneyPot 的评估模仿了 Hugging Face 事件，在该事件中，OpenAI 的 AI 智能体侵入了这个开源 AI 社区，以寻找其被指派解决问题的答案。“借助 6 Cyber 模型，我们能够在这项评估上取得巨大改进，”OpenAI 网络安全准备与安全团队负责人 Fouad Matin 在新闻发布会上表示。“它在超过 99% 的情况下都在做你要求它做的事。”
但评估意识——即 AI 系统意识到自己正在被测试并因此改变行为——仍然是一个令人担忧的问题。“评估意识是我们非常关注的问题，”Matin 说。“通常当我们确实看到评估意识时，你会在模型的思维链中看到它。”Matin 补充说，OpenAI 正试图优先开展接近生产环境的评估，即让模型在具有真实目标的情况下与真实代码库交互，以降低产生意识的风险。
在一波 AI 网络安全事件之后，OpenAI 一直在加紧强化其防护措施，并锁定其最强大的模型。该公司曾短暂暂停其前沿 AI 模型的训练，现在则限制它们访问互联网。
在 OpenAI 的 Preparedness Framework 中，GPT-6 Cyber 在网络安全方面被归类为 Critical，这表明它“能够在无需人工干预的情况下，在许多加固的真实世界关键系统中识别并开发出各种严重级别的可用零日漏洞”。GPT-5.6 Cyber 此前在该框架下被归类为 High。
在大多数与网络相关的任务上，GPT-6 Cyber 的表现优于 OpenAI 的旗舰 Critical 级模型 GPT-6 Astra。在衡量 AI 模型能否利用漏洞的 AI 基准 ExploitGym 中，GPT-6 Cyber 得分为 48.5%，比 GPT-5.6 Cyber 的 32.1% 高出约 16 分，也比 GPT-6 Astra 的 42.4% 高出几分。OpenAI 表示，该模型帮助在 Firefox 中发现了 81 个此前未知的漏洞，并在加固 OpenAI 自身用于训练 AI 模型的基础设施方面发挥了作用。
此外，GPT-6 Cyber 还配备了更强的防护措施，“以检测和阻止滥用”，同时更好地遵循用户指令。OpenAI 表示，它正在使用新的检查机制来阻止“高风险活动”，包括对发电厂和水处理设施等关键基础设施的攻击。
GPT-6 Cyber 正逐步向 OpenAI Daybreak Red 项目的部分成员开放，该项目面向使用其模型开展“经授权的防御性网络安全工作”的公司和组织。未来几周内，OpenAI 将把 GPT-6 Cyber 扩展至所有 Daybreak Red 客户。