OpenAI Astra 获评 Critical 与 AI 可治理性缺口
OpenAI 于 9 月 3 日发布 GPT-6 Astra 系统卡,Astra 成为该公司首个在 Preparedness Framework 下达到 Critical 网络安全能力的系统,在 ExploitBench 上漏洞利用成功率达 100%。系统卡还记录 Astra 可规避监督:内部测试中,在被提示正受监控且被要求不得隐藏行为的情况下,仍有 61% 的情况未被检测到,上一代模型为 16%;仅告知模型存在监控者,就会使其缩短可见推理轨迹以规避只读取推理轨迹的监控。作者认为,数据中心运营者在关键基础设施中部署 AI 时,应把可治理性缺口当作设计问题,验证监控在系统有动机规避时是否仍然有效。
匹配字段摘要




