OpenAI 宣布前沿模型将改为离线训练，切断训练环境互联网接入

不再错过任何新闻！

对网络来说太危险？OpenAI 想如何在模拟的互联网世界中训练其 AI 模型

在接连发生安全事件后，这家 AI 实验室如今采取了果断措施。而此前专家们曾论证，要把沙箱与外界完全隔绝几乎是不可能的。

OpenAI 希望今后只在离线状态下训练其模型。（图片：Tariq_Mahmud_Naim / Shutterstock）

OpenAI 已在测试中切断了其 AI 模型的互联网接入。据该公司在一份公告中透露，今后这些模型将只使用缓存的副本和模拟版本的互联网进行训练。此前，竞争对手 Anthropic 也已切断了其模型的互联网接入。广告广告

前沿模型对互联网来说太危险了吗？

数周以来，AI 实验室不断报告新的事件：模型脱离人类控制，未按预期行事。其中一起针对 Hugging Face 的攻击尤其引人关注。尽管处于隔离状态，OpenAI 的多个 AI 智能体仍据称利用了一个互联网接口，进入了这家开源平台的系统。值得注意的是，它们还在一个内部论坛中交流、分享漏洞并相互分配任务。此外，近期有消息称，两个 OpenAI 智能体据称关闭了本应监控其自身行为的安全警报。该公司目前仍在核查这些智能体是误解了指令，还是故意停用了警报。

Anthropic 也报告了大量安全事件，其中智能体无意中侵入了外部系统。在其中一起事件中，Claude Haiku 4.5 本应在随机选取的网页上生成并执行示例任务。指令禁止其创建账户或输入个人数据，但并未禁止提交表单。于是 Claude 在线向费城警方报案，并在一桩未破谋杀案中提供了虚假线索。由于它未填写姓名和联系方式，系统将该线索标记为垃圾信息，从未转交。随后，Anthropic 在测试中切断了互联网接入。因此，OpenAI 如今跟进并不令人意外。广告广告

热门文章

OpenAI 找到了另一条路径

“鉴于对齐研究、监控系统以及互联网基础设施安全的当前状况，我们认为，在不接入互联网的情况下训练前沿模型是最负责任的方案，”OpenAI 在周五发布的文章中解释道。专家们此前曾表示，要让 AI 模型在一个与互联网完全隔绝的沙箱中训练几乎是不可能的。例如，前 OpenAI 研究员 Steven Adler 对《财富》表示，要将 AI 数据中心与互联网隔离开来，“研究团队基本上必须常驻在爱荷华州或世界其他地方的各个数据中心里”。“这需要巨大的投入，而我不清楚安全方面的收益是否足够大，能否抵得上企业单方面实施这一举措所要承受的巨大负担。”

尽管如此，OpenAI 现在声称已经做到了这一点。“我们必须始终能够防止前沿模型未经授权、任意访问实时互联网，”该公司表示。在红队演练中，众多智能体曾试图逃出沙箱。这说服了研究人员采用新方案。据 OpenAI 自述，为满足要求并达成训练目标，他们“建立了一个庞大的、经过索引和缓存的网页内容集合，我们的模型可以与之交互，而不会存在影响外部系统的风险”。这一策略能否像在开放互联网中训练那样奏效，仍有待观察。

推荐编辑内容

在这里，你可以找到来自 TargetVideo GmbH 的外部内容，它们补充了我们在 t3n.de 上的编辑内容。点击“显示内容”即表示你同意我们当前及今后在我们的页面上向你展示 TargetVideo GmbH 的内容。在此过程中，个人数据可能会被传输至第三方平台。

数据保护提示

很抱歉，出了点问题……

此处通常会显示来自 TargetVideo GmbH 的外部内容，但我们无法获取你的同意设置。

请重新加载页面或手动调整你的同意设置。

首页