特朗普将“人工智能”改名为“超级智能”,科技高管集体沉默通过忠诚测试
Trump’s Crazy AI Rebrand Was a Loyalty Test for Tech Execs—and It Worked | WIRED
特朗普在白宫午餐会上签署行政令,宣布联邦政府不再使用“人工智能”一词,改称“Super Intelligence”,并要求私营部门跟进。Jeff Bezos、Jensen Huang、Dario Amodei、Mark Zuckerberg、Sundar Pichai、Greg Brockman、Alex Karp 和 Elon Musk 等与会高管无一提出异议。哲学家 Nick Bostrom 指出,superintelligence 特指远超人类最强大脑的系统,无法涵盖垃圾邮件过滤器、拼写检查、早期 LLM 等更广泛的 AI 系统。
主题
正文 · AI 翻译
去年夏天,也就是七十年前,一群科学家在达特茅斯学院聚会,讨论一个大胆的设想——有朝一日,机器或许能够具备类似人类的思维过程。其中一位科学家约翰·麦卡锡为这个新领域提出了一个名称:人工智能。这个名字就此沿用下来。当你在谷歌学术上搜索“人工智能”时,大约会出现7,420,000条结果。这个词可谓无处不在。人人都懂它。即便是那些厌恶AI的人,最不担心的也是我们怎么称呼它。
嗯,并非人人如此。不知怎的,唐纳德·J·特朗普总统对这个词产生了反感,而当他讨厌某样东西时,他会毫无顾忌地发布政令加以反对。在9月23日于联合国发表的一篇演讲中,他暗示自己可能想废除“人工智能”这个说法。他的这番激烈言辞看起来像是虚张声势,即便对一个热衷于给海湾、湖泊和艺术中心改名的人来说也是如此。给整个研究领域以及美国最关键的产业改名?本周,在白宫与顶尖AI领袖共进午餐时,他真的扣动了扳机,签署行政令宣布“人工智能”如今成了一个被禁用的造词。取而代之的是,政府将称之为“超级智能”。显然,总统期望私营部门也照此跟进。
令他们蒙羞的是,AI界的巨头们温顺地默许了。从今往后,他们大概要被称为SI界的巨头了。
人们不禁将此视为总统的终极权力展示——尽管这些高管坐拥数万亿美元财富、拥有他们实实在在的智慧,但房间里真正的老大却是那个橙色皮肤的人。与约束一项可能带来灾难性后果的技术这一艰巨任务相比,改名似乎只是小事一桩。但对这群人来说,人工智能远不止是一串拼在一起的字母。它是他们的根基。他们的身份认同。当他们还是孩子、躲在被窝里读科幻小说时,这个词点燃了他们的想象力。他们为AI而创建或改造了自己的公司,过去四年里他们谈论的几乎全是这件事。
然而,当总统利用他的午餐聚会来争取他们认可他那推翻70年历史的古怪想法时,显然房间里没有一个人提出异议。杰夫·贝索斯、黄仁勋、达里奥·阿莫代伊、马克·扎克伯格、桑达尔·皮查伊、格雷格·布罗克曼、亚历克斯·卡普和埃隆·马斯克,无一例外。
雅各布·韦斯伯格是近期出版的《怯懦者群像:特朗普时代的合作研究》一书的作者,他认为这一事件是典型的特朗普忠诚度测试,旨在评估原本有权势的人是否会自贬身价以博取总统欢心、避免他的怒火。如果你通过了忠诚度测试,你就通不过骨气测试。“抵抗这类事情的唯一方式就是集体行动,”韦斯伯格说。“如果那些家伙全都说,‘我们同意自我监管的条款,但我们不接受(改名)’,他又能怎么样呢?”
然而,由于这些亿万富翁如羔羊般的沉默,特朗普得以宣称这些领袖积极支持了他的想法。在午餐后的记者吹风会上,当一名记者提到AI智能体时,他纠正了她,说道:“这个名字已经被世界上最大、最聪明、最伟大的人改掉了。”真的吗?
即便借助ChatGPT或Gemini这类超级智能系统的魔力,我也找不到任何一例表明这些伟大人物此前曾公开主张“人工智能”一词应当被弃用。萨提亚·纳德拉确实曾说过,他本希望AI被称为“不同的智能”,但这并未阻止他反复使用这个词。而虽然马克·扎克伯格最近确实设立了一个超级智能实验室,但他的公司仍在向数十亿用户持续推广一款名为Meta AI的产品,并销售其所谓的AI眼镜。
我询问了谷歌、微软、Anthropic、Meta、亚马逊、OpenAI和xAI,他们是否打算更改产品名称、研究论文和对外沟通中出现的AI字样。我对后两家公司的询问是,他们是否打算更改公司名称以与总统的行政令保持一致。截至我写这篇文章时,他们都没有回复我。
我敢打赌,他们会采取最低限度的行动来避免总统的怒火,同时尽量拖延时间,直到下一届政府让这个离奇的想法寿终正寝。有人提出,这些高管其实乐见这个已变得有毒的术语被重新命名。我对此持怀疑态度,尤其是因为总统强制规定的替代词“超级智能”比原词要可怕得多。
从科学角度看,这一改动也毫无道理。不亚于专家的尼克·博斯特罗姆——这位因同名著作而普及了“超级智能”一词的哲学家——似乎也被这个想法弄糊涂了。他在给我的一封电子邮件中解释说,超级智能“特指远超所有最优秀人类大脑的系统。而‘AI’所指的范畴要宽泛得多,例如包括电子邮件垃圾过滤器、拼写检查器、简单的导航系统、早期的LLM,以及70年代尚未能与最优秀人类棋手匹敌的国际象棋引擎。把这些称为‘超级智能’似乎很别扭。”
那么,总统要求改名的理由究竟是什么,除了因为他有权这么做?在联合国演讲中,他说他不喜欢这个词,因为“‘人工’一词让智能显得虚假。而它并不虚假。”在白宫午餐会后,他说,虚假的是“人工智能”这个说法。“这是个假词,不好,是个不恰当的术语。”你不需要是心理学家也能看出,这种冲动可能与他决定将CNN、Politico和MSNow逐出白宫有关,因为他认为它们的新闻是“假的”。
尽管如此,将“人工”等同于“虚假”的跳跃并不成立。1956年,麦卡锡用这个词来区分人类智能与机器版本的智能。问题不在于这个词导致人们将AI的输出视为虚假——事实上,它如此真实,以至于我们人类常常无法分辨面对的是AI模型还是人类。强制要求明确区分,用水印和标签加以标识,本应是白宫似乎极为反感的AI监管的一个要素。
正如韦斯伯格所指出的,特朗普做出这样疯狂的政令非常符合他的性格。令人不安的是,那些没有提出反对的高管们明显缺乏骨气。他们带着自我监管而非严格监督的奖赏离开,却没有带着尊严。
但未能捍卫将人工智能称为人工智能的自由(正如加州州长加文·纽森在自己那份嘲讽特朗普的行政令中所规定的那样),使人们对那项协议也产生怀疑。要让自愿标准行之有效,需要相当大的毅力,因为优先考虑安全可能与财务和竞争因素相冲突。然而,我们却被要求信任这些本应独立的商业巨头,他们像摇头娃娃一样点头,而一位在技术上毫无教养的古怪最高领导人要求他们放弃他们生活和生计核心的术语。不恰当,而且虚假。