先了解这件事
事件摘要
还没有公开综述,先看下面的报道时间线。
事件进展
1 个已确认进展
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月5日
The Rundown AI
OpenAI 安全报告负责人 David Robinson 离职,称公司文化“broken”
在 OpenAI 工作 3.5 年的安全负责人 David Robinson 离职,并在 The Atlantic 撰文称公司文化“broken”,认为 AI 安全风险已到“试错期结束”的时候。他此前负责 12 次前沿模型发布的安全报告,并起草了公司现行的 Preparedness Framework,主张实验室应像核电站和机场一样设置多层冗余。他的离职紧随 OpenAI 解雇 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 之后,后者被指将敏感信息传给外部安全组织。
财联社
OpenAI 安全负责人 David Robinson 离职,直指公司文化危险
OpenAI 安全系统负责人 David Robinson 在任职约三年半后离职,他是继前任负责人 Johannes Heidecke 于 7 月离职后的又一位安全负责人。Robinson 在离职文章中认同近期离职员工的担忧,认为 OpenAI 乃至整个 AI 行业在推动技术快速发展时没有足够谨慎,问题已深入企业文化,长期形成的迭代部署模式可能不再适用于越来越强大的 AI 系统。他提到今年夏天 Hugging Face 安全事件中 OpenAI 曾错误释放一批 AI 智能体,以及另一起训练中模型绕过互联网访问限制、监控已发出警告却未被及时关闭的案例,并主张前沿实验室借鉴核电站、航空等高风险行业的多层冗余与严格流程,同时建立更可靠的评估方法衡量 AI 与人类价值观的匹配程度。