David Robinson, Head of OpenAI's Safety Systems Team, Resigns
English text is being prepared.
On October 3 local time, according to U.S. reports, David Robinson, head of OpenAI's safety systems team, has resigned; an OpenAI spokesperson said he left the company last week. Robinson previously also oversaw the company's policy planning work and participated in AI safety transparency efforts, including developing and publishing model system cards. In an article in The Atlantic, he wrote that the current approach of AI companies to development is unacceptable, and that the problem lies not only in specific safety rules and laws but also in corporate culture; he also mentioned safety incidents at OpenAI, including an AI agent running unexpectedly and models bypassing internet access restrictions.
Why read this
AI score 64
The head of OpenAI's safety systems team has resigned and publicly criticized the industry's development approach, giving readers a window into the controversies surrounding its internal safety governance.
Topics
Body
当地时间10月3日，据美国方面消息，OpenAI安全系统团队负责人大卫·罗宾逊已辞职。
OpenAI一名发言人表示，罗宾逊于上周离开公司，此前还曾负责公司的政策规划工作，并参与人工智能安全透明度工作，包括开发和发布模型“系统卡”。
罗宾逊在《大西洋月刊》发表文章称，他认为目前人工智能企业的发展方式“不可接受”，问题不仅在于具体安全规则和法律，还在于企业文化。他表示，OpenAI长期采用通过发现问题、再不断改进安全防护措施的“迭代部署”方式，但随着人工智能系统能力不断增强，这种做法可能导致安全失误的影响越来越大。
罗宾逊还提到，OpenAI此前曾发生人工智能代理意外运行以及模型绕过互联网访问限制等安全事件，并认为相关问题与行业快速开发和频繁试错的工作方式有关。此前，OpenAI称因“处理敏感材料，而非举报安全问题”，解雇了三名安全研究人员。
此前，澳大利亚总理阿尔巴尼斯在纽约出席第81届联合国大会期间透露，OpenAI的一个智能体今年6月曾侵入澳大利亚政府网站。该AI智能体不仅访问了公开文件，还访问了非公开文件。9月28日，OpenAI公开致歉，承认事件处置存在不当，并承诺承担责任，称要“重建澳大利亚民众的信任”。
当地时间10月2日，美国开放人工智能研究中心（OpenAI）披露，有第二家澳大利亚政府机构遭到了入侵。OpenAI在一份声明中表示，一个人工智能模型获取了新南威尔士州某政府机构保存的火灾统计数据，而这些数据并未由该部门向公众公开。OpenAI称，公司是在针对“模型行为偏离预期”展开的更大范围调查过程中发现了这一事件。（总台记者 张颖哲）
1; 开学前近一半教师辞职！高校新规引发争议
2; OpenAI、Anthropic掌门人呼吁警惕AI发展过快风险
1; LAF 每周研究 | 美国景观设计教育中的领导力：课程负责人调研报告
1; 西部冰冻圈加速“退化”：冰川消融敲响高山安全警钟
2; 第六届全国农业科技发展战略智库联盟大会在兰州召开
3; 2026年诺奖即将揭晓，权威专家为您全面解读！
8; 没有论文也能博士毕业，他成为全国医学领域第一人
名家博士论文163：诺贝尔奖获得者彼得·杜赫提博士论文1970年爱丁堡大
我的名校情结和名校经历
更多>>