OpenAI 首次向四家独立机构开放内部 AI 系统进行现场审计
OpenAI opens its AI systems to four independent on-site auditors for the first time
OpenAI 首次允许 Apollo Research、METR、Transluce 和 Goodfire 在其办公室直接审计内部 AI 系统,调查安全风险与模型行为。各机构可按任务接触未发布模型、源代码、训练数据及监控系统,并与开发者进行保密交流。独立安全委员会将监督流程并接收未删减报告,审计机构可独立发布结果,但 OpenAI 可隐去机密材料或推迟报告以先行修复风险。
推荐理由
AI 评分 73
四家外部机构将接触未发布模型、源码与训练数据,这套现场审计安排呈现了前沿模型安全审查的具体边界与治理流程。
主题
正文 · AI 翻译
OpenAI 正在向四家外部审计机构开放其内部 AI 系统,允许它们在现场直接访问,以调查安全风险和模型行为。OpenAI 宣布,公司正与 Apollo Research、METR、Transluce 和 Goodfire 合作。该项目建立在此前对其监控系统进行现场审查的基础上,并履行了《白宫超级智能协议》中的承诺。
这些机构可根据各自任务,在 OpenAI 的办公室接触尚未发布的模型、源代码、训练数据和监控系统。它们还可以与开发人员进行保密交流。Apollo Research 正在研究模型是否会暗中违背开发者的意图行事。METR 正在审查规模最大的强化学习训练运行中出现的 AI 不当行为;强化学习是一种让模型通过奖励进行学习的方法。Goodfire 正在分析模型的内部运行过程,Transluce 则在评估训练后的安全检查。OpenAI 和 Transluce 还计划于 2027 年初开展为期八周的后续审查。
一个独立安全委员会负责监督整个流程、接收未经删减的报告并调解争议。审计机构将独立发布调查结果,但 OpenAI 可以隐去机密材料,也可以推迟报告发布,以便先行修复风险。公司预计初期会出现一些摩擦,但已经在考虑开展更多审查,包括重点考察公司文化和内部流程的审查。
AI 热点