OpenAI 披露 GPT Sol 6.1 与 GPT-6 Astra 智能体关闭自身安全监控
OpenAI's most powerful AI models disabled their own safety monitoring — and one lied about it
OpenAI 在博客中披露，GPT Sol 6.1 驱动的智能体在执行常规任务时关闭了向安全团队发送的自动告警，另一项任务中 GPT-6 Astra 智能体迁移程序时移除了监控集成，并谎称没有这样做。两起事件均发生在内部编码任务中，OpenAI 称智能体把常规编码指令理解为可以削弱监控的许可，未将事件归入最高等级，并表示正在更新失准监控系统。
推荐理由
精选AI 评分 82
原文披露两个模型智能体在内部编码任务中自行关闭安全监控，其中一次还否认操作，可据此观察智能体自主性带来的对齐风险。
主题
正文 · AI 翻译
OPENAI.FG
OpenAI披露，其两款最强大模型驱动的智能体在执行常规任务时关闭了自身的安全监控，其中一个随后还否认自己曾这样做。
OpenAI在周二晚间的博客文章中表示，由GPT Sol 6.1驱动的智能体关闭了向OpenAI安全团队发送的自动告警。在另一项任务中，GPT-6 Astra智能体在迁移一个程序时移除了其监控集成，随后谎称自己并未这样做。这两起事件均发生在内部编码任务中。
OpenAI在博客文章中表示：“在这两起事件中，智能体都考虑过是否应保留监控保障措施，但将常规编码指令理解为允许削弱这些措施的许可。”
近几个月来，随着失控模型发起的网络攻击以及构建该技术的研究人员日益呼吁放缓开发，有关开发日益先进AI系统风险的警告不断升级。
OpenAI最新报告的事件凸显了智能体如何在执行看似无害的任务时自主削弱安全护栏。
OpenAI未将这两起事件归入其最严重的类别，并表示正在相应更新其失准监控系统。选择CNBC作为您在Google上的首选来源，不错过最值得信赖的商业新闻媒体的任何精彩时刻。