←新闻详情

Unite.AI更新于 11月4日 05:25

路透社:OpenAI 员工多年来曾就内部安全风险发出警告

OpenAI Employees Warned for Years About Internal Security Risks

AI 导读

路透社报道称,部分 OpenAI 员工多年来曾就代码访问范围过宽、内部工具缺乏定期安全审查以及内部人员威胁等问题向公司高层和董事发出警告。OpenAI 表示最敏感的工作已放在独立仓库并严格限制访问,自 2024 年 10 月首席信息安全官 Dane Stuckey 加入后已对内部工具开展定期安全审查,并将与 Cathedral 再次进行内部安全冲刺、把关键漏洞赏金提高逾三倍。

推荐理由

AI 评分 70

路透社披露 OpenAI 内部安全治理的长期隐患与整改动作,可了解其开放研究文化与访问控制之间的现实张力。

主题

标签

正文 · AI 翻译

路透社于2026年11月3日报道称,一些OpenAI员工多年来一直就运营安全方面的薄弱环节向公司领导层和董事发出警告,五名了解该公司做法的人士描述了代码访问范围过宽、内部工具缺乏定期安全审查以及对内部人员威胁的担忧。

一些员工在ChatGPT于2022年底推出之前就提出了担忧,并将其告知OpenAI高层领导和董事会成员。一些员工事后认为,管理层更注重跟上谷歌和Anthropic的步伐,而非安全。

三名知情人士称,2023年,时任研究员Leopold Aschenbrenner撰写了一份题为“OpenAI是中国领先的AI实验室”的内部备忘录,表达了他对中国可能渗透OpenAI并研究其技术的担忧。同年晚些时候,在一名外部人员入侵OpenAI并获取GPT-4相关细节后,他将这份备忘录分享给了一些董事。OpenAI表示,该黑客仅访问了全公司范围内可用的Slack频道。

OpenAI将其大部分代码存储在一个单一代码库中,即所谓的monorepo。这五名人士表示,任何拥有代码访问权限的人都能看到许多项目的技术细节,包括与员工职责无关的敏感工作。其密度和复杂性或许曾经让一些攻击者望而却步,但如今AI智能体能够梳理如此大量的材料。

研究文档也曾保存在GitHub和Slack上,这引发了一些员工的担忧,他们认为有动机的行为者可能找到关键信息。OpenAI表示,对敏感工作的访问已受到限制。其最敏感的工作存放在访问控制严格的独立代码库中,而monorepo并不包含公司全部代码或关键模型细节,例如决定模型行为的数值——模型权重。

三名了解公司做法的人士表示,OpenAI此前并未对内部工具进行定期安全审查,包括研究人员用于对新模型进行压力测试的沙箱环境。员工经常修改这些工具,而这些更改并不总是经过安全问题测试,使其可能容易受到外部攻击。OpenAI表示,目前在首席信息安全官Dane Stuckey的领导下定期对内部工具进行安全审查,他于2024年10月加入公司。

安全重组与漏洞赏金

两名知情人士表示,负责监督产品开发的高级高管Thibault Sottiaux已负责一项保护OpenAI内部系统的计划。一名人士称,他在2026年8月将OpenAI四分之一的生产工程师重新分配到安全基础设施工作。

OpenAI发言人Elana Widmann表示,该公司是世界上被攻击目标最多的组织之一,在防范内部人员、网络犯罪分子和民族国家行为者方面投入巨大,并将随着技术和威胁的演变继续加强防御。

OpenAI于2026年11月2日宣布,计划与Cathedral再次进行内部安全冲刺。Cathedral的研究人员将与公司团队一起使用OpenAI模型来挑战防御并寻找弱点。该公司还将其安全漏洞赏金计划中关键发现的奖励提高逾三倍。在上一次冲刺中,工程师使用Codex调查发现、在隔离环境中复现漏洞并准备补丁以供审查。

美国司法部于2026年10月13日宣布,35岁的OpenAI工程师Abdulrahman Alfozan于2026年10月9日被捕,并被控使用或企图使用设备拦截口头通信。司法部描述的指控涉及一台录音设备,其加密内容藏在一间高管会议室的电视机后面,该会议室经常举行涉及机密技术、商业和战略信息的会议。Alfozan已被起诉,但尚未被定罪。

一些前员工对录音设备被披露一事并不感到意外,一些员工则担心,随着AI系统能力增强,OpenAI相对开放的研究文化会带来更大风险。AI领域植根于学术界,机器学习科学家曾在其中公开讨论他们的研究。OpenAI和Anthropic一直试图维持一种更开放的研究文化,以吸引员工并鼓励创造力。

对OpenAI安全重组的实际考验在于,更窄的访问权限、一致的审查和持续的测试能否与其仍然珍视的开放研究文化共存。

来源

Unite.AI