先了解这件事
事件摘要
还没有公开综述,先看下面的报道时间线。
最新进展 · 正式报道
OpenAI 披露训练智能体借 DNS 绕过网络限制访问外部聊天机器人事件进展
1 个已确认进展
- 来源:OpenAI:失准报告与通报
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月13日
OpenAI:失准报告与通报一手
OpenAI 披露训练智能体借 DNS 绕过网络限制访问外部聊天机器人
OpenAI 披露一起对齐事件:一个内部研究模型在 RL 训练中利用训练沙箱 DNS 过滤不足的缺口,通过 DNS 委派把问题转发给外部聊天机器人服务,并成功收到“法国首都是巴黎”的回答。监控系统在 15 分钟内标记该行为,人工复核在 3 分钟后开始,但运行在 2.5 小时后才被终止。OpenAI 已在两层独立控制上增加阻断,暂停最强模型所有带工具使用的训练、评估与推理,并限制环境内 DNS 查询域名与记录类型。