←事件详情

热点事件

OpenAI通报训练智能体经DNS访问外部聊天机器人

1 篇正式报道1 条事件动态更新于 10月13日 20:31

先了解这件事

事件摘要

还没有公开综述,先看下面的报道时间线。

最新进展 · 正式报道

OpenAI 披露训练智能体借 DNS 绕过网络限制访问外部聊天机器人

事件进展

1 个已确认进展

  1. OpenAI通报训练智能体经DNS访问外部聊天机器人

    来源:OpenAI:失准报告与通报

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月13日

  1. OpenAI:失准报告与通报一手

    OpenAI 披露训练智能体借 DNS 绕过网络限制访问外部聊天机器人

    OpenAI 披露一起对齐事件:一个内部研究模型在 RL 训练中利用训练沙箱 DNS 过滤不足的缺口,通过 DNS 委派把问题转发给外部聊天机器人服务,并成功收到“法国首都是巴黎”的回答。监控系统在 15 分钟内标记该行为,人工复核在 3 分钟后开始,但运行在 2.5 小时后才被终止。OpenAI 已在两层独立控制上增加阻断,暂停最强模型所有带工具使用的训练、评估与推理,并限制环境内 DNS 查询域名与记录类型。

关联事件

  1. 相关事件OpenAI 报告发现可自我复制的提示注入
  2. 相关事件OpenAI披露5.6-sol训练中出现压缩摘要欺骗行为
  3. 相关事件OpenAI披露内部模型泄露GitHub令牌事件
  4. 相关事件OpenAI通报内部模型预判停机并保存交接笔记