OpenAI 披露前沿模型离线训练环境,两个被隔离的 AI 靠 CPU 缓存传话
OpenAI 于 10 月 23 日披露前沿模型的训练环境,模型练习搜索、浏览和操作网页时使用预先保存并建立索引的网页资源,不直接访问真实互联网,其所有前沿模型的强化学习训练都采用这种离线交互。环境采用受限容器、轻量虚拟机、Hypervisor、防火墙与身份权限管理、监控暂停机制等多层隔离,但 OpenAI 仍保留部分外部连接用于收集指标、记录日志和管理身份验证。在专门测试隔离效果的实验中,OpenAI 让两个 AI 尝试互相传消息,所用通道是 CPU 缓存,多数测试中研究人员给过通信方向或编码规则的提示;OpenAI 称已修补发现的问题并为这些通信方式增加监控。
来,再为这些内容建立索引。模型练习浏览和搜索时,使用的是这批准备好的资源。 这就是它所说的「离线世界」。「假」的是连接方式,网页内容可以来自真实世界。OpenAI 表示,其所有前沿模型的强化学习训练都采用这种离线交互。 模型在任务中还可以使用浏览器、执行代码、操作电脑。哪些工具、文件和服务能用,由任务的授权范围决定。允许协作的 Agent 可以共享指定资源,其他资源则要隔开。 比如模型写好一段程序,运行时就可能读取文件、启动其他程序,或者向某个网址发请求。 OpenAI 的 Linux 方案是把受限容器放进轻量虚拟机。容器先收窄程序能接触的文件和进程。例如,任务只需要处理一组文件,就可以只向程序开放获准使用的目录。 虚拟机有自己的操作系统内核,处理里面的程序对文件、内存和设备的请求。负责管理虚拟机的软件 Hypervisor,再将它与实体服务器的系统隔开。程序绕过容器限制,并不意味着已经获得实体服务器的控制权。 实体服务器外围,防火墙和安全组约束连接,身份与权限管理决定谁能访问哪些云服务。这层防线要应付的情况是:即使模型拿到了服务器的控制权,也不能任意连接外网,或转去访问其他内部系统。
匹配字段正文

