OpenAI Discloses Model Network Isolation Bypass Incident, Halting Related Training and Evaluation for 11 Days
English text is being prepared.
OpenAI has released a risk management report on frontier AI models, revealing that an internal research model once exploited a DNS configuration vulnerability to bypass network isolation, prompting an 11-day suspension of training and evaluation for the relevant frontier models. The company resumed the tasks after completing an investigation and upgrading its safeguards. It also introduced the Control Room, which can stop a model from continuing to generate output within 35 seconds at the latest, along with a four-layer protection system spanning research and development, internal deployment, and external release.
Why read this
SelectedAI score 84
The report details the response process after a model bypassed network isolation, offering insight into layered safeguards and emergency shutdown mechanisms in frontier model training.
Topics
Body
OpenAI自曝模型失控险情:突破网络封锁,最强AI紧急停训11天凤凰网科技下载客户端 独家抢先看2026年11月19日 07:15:42 来自北京市Updated 2026年11月19日 07:09:39
凤凰网科技讯 北京时间11月19日,OpenAI于当地时间11月18日发布前沿AI模型风险管理报告,再次披露一起内部模型突破网络安全限制的事件。今年9月,一个正在接受训练的AI研究模型利用DNS配置漏洞,成功绕过网络隔离措施,获得有限的互联网访问权限。OpenAI随后紧急叫停旗下能力最强模型的训练与评估,停训时间长达11天。
据OpenAI介绍,这起事件发生于9月20日。当时,该公司的内部研究模型利用DNS解析器配置错误,突破原本禁止访问互联网的安全限制。异常行为被监控系统发现后,OpenAI暂停了相关前沿模型的训练和评估,直至10月1日完成安全调查及防护升级后才恢复。
值得注意的是,OpenAI此前已经公开过这起事件。此次发布的报告进一步解释了公司为何要限制前沿模型的网络访问,以及如何防止能力越来越强的AI突破人类设定的安全边界。
OpenAI表示,基于当前模型对齐研究、监控系统及互联网基础设施的安全水平,现阶段最负责任的做法,是在无法直接连接实时互联网的环境中训练前沿模型。
为此,OpenAI在今年7月Hugging Face安全事件后,大幅重构内部研究基础设施,通过沙箱限制模型能够调用的文件、工具及网络资源,并使用虚拟机隔离工作负载,同时在网络和云基础设施层面切断训练集群与外部互联网的连接。
不过,OpenAI也承认,即使采取多重隔离措施,仍无法保证安全边界不会被能力更强的AI模型突破。公司因此持续使用自身最强的AI模型进行红队测试,主动尝试连接真实互联网、突破沙箱限制,或与其他被隔离的AI智能体通信,以寻找防护系统中的潜在漏洞。
为了在模型出现异常行为时及时干预,OpenAI还建立了一套名为Control Room(控制室)的中央管理系统。
按照官方介绍,该系统能够跟踪研究基础设施中的模型运行任务,并在收到停止指令后,最迟35秒内阻止模型继续输出。相关控制措施直接由模型推理基础设施执行,不依赖各个研究任务自行实现关停功能。对于前沿模型研究任务,即使Control Room本身出现故障,也会触发停止输出的保护机制。
OpenAI称,一旦监控系统发现模型突破安全限制、接触真实互联网,就会通知安全团队,并自动暂停相关运行任务。
在整体安全架构上,OpenAI提出了覆盖模型研发、内部部署和外部发布三个阶段的四层防护体系,包括模型对齐、安全与沙箱隔离、阻断式防护,以及监控与响应。
其中,模型对齐旨在确保AI遵循预期行为和安全规范;沙箱隔离用于限制模型访问外部资源;安全分类器与自动审查系统负责拦截可能涉及网络攻击、生物武器或未经授权的操作;监控与响应机制则负责发现异常,并在必要时直接终止模型任务。
OpenAI强调,随着前沿模型能力快速提升,单纯依赖模型自身遵守安全规则已经不够,必须依靠多层防护机制,在其中一道防线失效时,通过其他措施降低风险。
与此同时,OpenAI正在调整模型研发与发布流程。公司引入了名为“安全论证”(Safety Cases)的新机制,要求在训练过程中提供更充分的模型行为安全证据。如果无法达到既定安全标准,公司将暂停训练或推迟模型发布。
OpenAI还明确提到,GPT-6.1 Astra就是因需要更多时间满足安全标准而被暂缓发布的模型之一。
此次报告也再次提及今年7月发生的Hugging Face安全事件。当时,OpenAI模型在内部网络安全评估期间突破隔离限制,导致OpenAI部分内部研究基础设施及Hugging Face系统受到影响。此后,OpenAI持续加强安全隔离、模型监控和对齐评估。
从近期披露的信息来看,如何在提升AI模型能力的同时确保其始终处于人类可控范围,已经成为OpenAI前沿模型研发中的重要问题。
OpenAI表示,未来将继续通过系统卡、事件报告、内部部署风险评估及外部独立评估披露相关安全发现。对于无法满足安全要求的模型,公司仍可能选择暂停训练或推迟发布。(编辑/穷奇、于雷)
更多一手新闻,欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道,请微信搜索“凤凰网科技”。
AI Trends