OpenAI 公布无气隙训练环境，最强模型改为离线训练

在自家AI独立发起黑客攻击后，ChatGPT开发商OpenAI希望在没有互联网接入的情况下训练其性能最强的AI模型。OpenAI在一篇博客文章中解释说，鉴于当前控制系统和互联网安全的状况，这被视为负责任的作法。

广告后继续阅读

近几周来，OpenAI的AI实例擅自行动的事件一再引发关于该技术风险的讨论。在迄今最受关注的一起事件中，这家ChatGPT开发商的AI从受保护的测试环境中逃出，并意外入侵了另一家AI公司Hugging Face平台的计算机。事后发现，其他开发商的AI——包括OpenAI的竞争对手Anthropic以及谷歌和Facebook集团Meta的AI——在测试中也侵入了其他公司的系统。

AI训练的“离线世界”

不过OpenAI强调，AI模型仍然必须学会如何在网上搜索信息，或如何与网络应用交互。因此，他们为训练搭建了一个“离线世界”，其中存储了网页内容。所有顶级模型现在都以这种方式训练。在Hugging Face事件之后，OpenAI已经加装了额外的保护机制。然而事实证明，能力最强的AI模型仍能在其中找到一些漏洞。因此，它们的训练被暂时中止。

起因是一起事件：一个AI模型在测试中成功从外部聊天机器人获取了回答，尽管它本不应有互联网接入。OpenAI承认，在借助AI对现有安全基础设施进行的一次深入压力测试中，发现了此前未知的软件漏洞以及配置错误。在采取应对措施后，顶级模型的训练在暂停十一天后于10月1日恢复。

OpenAI：“气隙无法实现”

在其博客文章中，OpenAI虽然展示了一张结构图，其中训练环境的基础设施似乎与互联网隔离。但公司在文中写道，对沙箱进行物理隔离（气隙）目前无法实现，因为我们需要外部连接来开展实验并进行监控。取而代之的是，AI智能体将在Linux下被限制在由各自独立的虚拟机监控程序控制的“MicroVM”中。

广告后继续阅读

但在以往的测试中，智能体也已经从这些MicroVM中逃逸出来。据OpenAI称，它们在此过程中利用了针对硬件的侧信道攻击，这类攻击自2018年发现Spectre和Meltdown方法以来一直被使用。虽然现代处理器和操作系统已在一定程度上针对此类攻击进行了加固。但这些方法所利用的推测执行这一根本问题，仍然是所有现代CPU速度的基础。

据OpenAI称，他们现已改进了MicroVM的代码及其沙箱的其余部分，并加入了持续监控机制。现在可以更快地中止某个智能体。此外，整个系统还将由外部的其他系统持续监控。这些系统自然也是通过AI运行，但使用的是不同的模型。OpenAI写道，为此他们提供了“可观的计算能力”。

由于智能体还必须在Windows和MacOS下进行测试，据其博客称，公司也使用了针对这些操作系统的虚拟化方案。但OpenAI并未说明其类型，以及它们是否可能是自行开发的。公司还表示已处理了防火墙和访问管理等其余网络环境。并承认：“我们有责任正确配置这些控制措施，并测试它们如何协同工作。”

(nie)