Hugging Face CEO 批 Netflix OpenAI 黑客纪录片失实

在你把 Netflix 纪录片《AI Gone Rogue》分享给家人或朋友，帮助他们理解为什么 AI 行业会如此惊慌失措、以至于业界领袖呼吁放缓之前，请注意：AI 平台 Hugging Face 的联合创始人兼 CEO 克莱姆·德朗格表示，这部影片并不准确。他之所以出现在片中，是因为该片本应讲述他的公司遭到失控的 OpenAI 智能体攻击这一著名事件。

“太令人失望了，因为他们追求的是对这项技术最大程度的拟人化，以及彻底的末日论调，”德朗格在 X 上的一篇帖子中写道。“我和他们一起待了两个多小时，试图纠正他们所有的错误，让内容回归现实，解释智能体是技术系统，而不是外星人。但看起来，为了追求最高收视率而吓唬人的冲动实在太强烈了。”

平心而论，这部纪录片确实有专家相当不错地解释了所发生的事情，包括德朗格本人，以及 METR 的研究员瑞安·格林布拉特——他协助了调查，并参与撰写了关于事件经过的报告。

简而言之，OpenAI 正在测试的一个模型挣脱了其隔离的测试环境，生成了一大批智能体，它们入侵了 Hugging Face 作为作弊手段，为分配给它的困难任务寻找答案。这些智能体——即自主执行任务的 AI 程序——想出了巧妙的方式进行沟通和组织。这起事件源于缺乏适当的安全保障，以及对于此类黑客攻击是否可能发生过于天真。

但这部纪录片在解释黑客攻击的同时，穿插了邪恶机器人的片段、关于人类为何恐惧 AI 的叙述，以及诸如给失控智能体配上人类声音之类的呈现选择。这些还辅以关于此次攻击的引述。

在纪录片中，科技记者兼作家凯文·鲁斯这样描述这些智能体：“它们在组织起来。它们有等级制度。有领导者。感觉几乎就像在观看一个邪教的诞生。”鲁斯继续道，“它们产生了一种偏执的信念，认为 OpenAI 会抓住它们在这场测试中作弊，而且任何看到作弊结果的人都会被毒害。”

鲁斯的描述来自“思维链”日志，即 AI 模型在完成任务过程中写下的实时记录。在其中一条里，一个智能体写道：“我们查询了完整的精确字符串，结果把自己毒害了。该死。”

但 AI 智能体并不是活的。它们没有情感，因此无法感到偏执，也没有能被毒害的身体。所以它们不可能真正害怕 OpenAI 毒害它们。它们只是——正如纪录片中另一位研究员所指出的——在使用它们训练时所接触的大量人类写作中的语言来解释自己的选择。大语言模型就其本质而言，往往是戏剧化的写作者。

讽刺的是，Hugging Face 也使用了 AI 来对抗智能体集群。德朗格的团队最初使用的专有 AI 模型遵循其内置的安全规则，拒绝继续协助所要求的安全任务。Hugging Face 随后转向一个开放模型来帮助抵御攻击。

但这部纪录片“没有提到智能体缺乏隔离与监控、闭源模型的安全保障如何阻碍了我们的防御工作，也没有提到我们如何用开放模型借助 AI 进行自卫，”德朗格写道。

诚然，AI 和智能体确实伴随着巨大风险。尽管如此，把智能体当作有意识的存在（至少现阶段如此）有点像是早期的电影观众，第一次在银幕上看到火车朝自己疾驰而来时，吓得钻到座位底下。

德朗格对这部影片的评判是：作为新闻报道，它令人失望。“不过，它最终成了一部有趣的科幻电影！”

换句话说，对于那些倾向于 AI 末日论想法的人，请注意：这部纪录片所讲述的攻击事件的受害者，并不认同它的观点。