WSJ 称 OpenAI 因 Signal 聊天调查解雇 3 名安全研究员
WSJ: OpenAI fired 3 safety researchers after security staff found disappearing Signal chats with an outside safety researcher.
据 WSJ 报道，OpenAI 在安全人员发现 3 名安全研究员与一名外部安全研究员之间存在会消失的 Signal 聊天后，将这 3 人解雇。手机检查始于 9 月的一篇新闻报道，该报道称 OpenAI 最新模型 Astra 采用一种新方法，使其更聪明但写下的思考过程更少，人类能看到的推理过程因此减少。OpenAI 将该报道视为其秘密模型设计泄露，并开始追查信息来源，调查人员将曾协助 METR 分析 7 月 Hugging Face 被黑事件日志的 Ryan Greenblatt 列为疑似泄密者，他本人否认。
推荐理由
精选AI 评分 76
报道披露 OpenAI 因模型设计泄露调查解雇安全研究员，涉及模型可解释性与内部安全流程的张力。
主题
正文 · AI 翻译
《华尔街日报》：OpenAI解雇了3名安全研究员，此前安保人员发现他们与一名外部安全研究员之间会消失的Signal聊天记录。
这些手机检查始于9月的一篇新闻报道，该报道称OpenAI的最新模型Astra采用了一种新方法，使其更聪明，但记录下的思考过程更少，因此人类能看到的它如何得出答案的过程也更少。所以担忧在于，如果未来的模型像研究人员所担心的Astra式设计那样，在不写下这些步骤的情况下思考，调查人员就只会看到智能体做了什么，而看不到为什么这么做。
OpenAI将这篇报道视为其秘密模型设计的泄露，并开始追查消息来源。
调查人员认定曾帮助METR分析7月Hugging Face黑客事件日志的Ryan Greenblatt为疑似泄密者；他予以否认。