OpenAI 披露前沿模型训练安全改造:全面断网并暂停训练 11 天
OpenAI 于 10 月 23 日公布前沿模型训练环境的安全改造细节,前沿模型训练已禁止访问真实互联网,改为在离线网页环境中练习浏览和搜索。红队实验中,Agent 在禁止网络通信、无共享可写文件的条件下,利用 CPU 缓存等侧信道交换信息;另一次测试中,内部研究模型借 DNS 过滤缺口联系外部聊天机器人,系统 15 分钟内报警,但自动停止机制未生效,运行又持续约两个半小时才被人工终止。OpenAI 随后暂停最有能力模型的相关训练和评估,10 月 1 日恢复,暂停持续 11 天。
网,模型改在离线网页环境中练习浏览和搜索。 没有网络,怎么传暗号? 实验中的 Agent 被放在不同的轻量虚拟机里,共享底层宿主硬件。研究人员给它们的任务,是在禁止网络通信、没有共享可写文件的条件下,交换预设的测试信息。 突破口藏在读取数据的速度里。读取 CPU 缓存,通常比从主内存取数更快。 Agent 利用这种时间差,把共享缓存状态的变化变成信号,再约定编码和解码方式,最终完成信息交换。 这就像两个房间不能直接通话,但仍共用一处设施。一方改变设施的状态,另一方观察到变化,双方就有了传递暗号的可能。 CPU 缓存只是其中一条通道。OpenAI 还披露了涉及共享存储、CPU 时间竞争和 TLS 证书缓存的通信方式。多数通道传输缓慢、利用困难,但仍能跨越原本用于隔离任务的边界。 OpenAI 的代理沙箱仅允许访问离线资源。实时互联网、其他沙箱以及 OpenAI 的基础设施都位于隔离边界之外。 这里有个需要交代的实验条件:多数相关测试指定了通信通道方向,或提供了编解码协议。另一次测试只给出较宽泛的漏洞清单,Agent 从中构造通道、约定编码并交换信息。 因此,这些结果不能等同于 AI 在毫
匹配字段正文