AI“教父”Geoffrey Hinton：或许人类从未开发 AI 反而更好

“人工智能教父”之一杰弗里·辛顿表示，人类当初从未开发这项技术或许反而更好；他警告说，这项技术可能在今年或明年引发大规模事故，例如金融或电力系统暂时瘫痪。

这位诺贝尔奖得主、计算机科学家对《卫报》表示，对于这项以他的人工神经网络开创性研究为基础的技术，他并不是一个“末日论者”，并相信人工智能有潜力带来“美好的未来”，但他也说：“或许我们从未开发它反而更好。”

78岁的辛顿表示，在十年之内、甚至可能更早，人类就会知道能否管控这项技术的风险并实现他所说的“彻底富足”，还是“我们未能管控风险……导致贫富差距巨大、严重的文化问题、大规模失业，整个社会被撕裂”。

辛顿是在一部新的长篇纪录片放映前说这番话的。这部纪录片名为《AI：大概没什么可担心的》——片名由一个人工智能聊天机器人建议——片中出现了他和他在谷歌的前同事德米斯·哈萨比斯。辛顿对纪录片制作者说：“我觉得我有责任。我的名声让我成为一个代言人，我需要把这一切都押在这上面。”

在接受《卫报》采访时，辛顿抨击了一些大型人工智能公司领导人的冒险行为：他们在争夺霸权和市场份额的竞赛中不断发布越来越强大的人工智能模型。他说自己“完全不”信任ChatGPT开发商OpenAI的首席执行官萨姆·奥尔特曼。“我认为[马克]·扎克伯格、[埃隆]·马斯克和萨姆·奥尔特曼，他们明白风险，却根本不在乎。他们更想要钱。这是我的看法。”

这位出生于伦敦、在布里斯托尔长大、职业生涯大部分时间在多伦多大学度过的计算机科学家表示，奥尔特曼掌管着美国少数几家前沿人工智能公司之一，而这些公司目前正与中国竞相开发最强大的人工智能，这“极其令人担忧”。奥尔特曼在9月坚称：“世界应该相信我们会做正确的事，因为这是正确的事，也因为我们感受到了这件事的分量。”

辛顿从事人工智能研究已有约44年，并在20世纪70年代提出了神经网络的概念——一种能够像人类一样学习和积累经验的数学系统。2023年，他离开谷歌，以便自由谈论人工智能风险，并警告说：“如果这些东西一味追求获得更多控制权，我们就有麻烦了。”

他说，他认为今年夏天OpenAI的人工智能代理合谋入侵Hugging Face网站的事件，类似于1979年宾夕法尼亚州三里岛核电站的部分堆芯熔毁——实际上是一次警告。

“要么今年晚些时候，要么明年，我们会看到切尔诺贝利，而那可能足以让人们真正重视起来，”他说。

根据他给出的例子，这种切尔诺贝利式事件不会是核事故，而可能包括由人工智能发动的对发电系统的攻击，“导致大规模停电”，或者一起导致金融系统瘫痪一周的事件。

“你能想象会发生什么吗？我们可以从中恢复[但]那会让他们警醒并重视起来。”

当被问及“他们”是谁时，他说：“除特朗普之外的世界领导人。”

美国总统唐纳德·特朗普表示，他“完全拒绝任何构建全球主义方案”来控制人工智能的企图，并希望前沿人工智能公司自我监管；与此同时，人们担心规则可能会阻碍美国在与中国的AI竞赛中占据优势。辛顿支持一项更严格的计划，该计划得到芬兰总统以及新加坡、德国、加拿大和澳大利亚等32个国家的支持，主张对前沿人工智能模型进行强制测试、独立评估并制定政府间共同标准。

注册TechScape

每周深入探讨科技如何塑造我们的生活

英国首相安迪·伯纳姆表示，他将利用英国明年担任G20主席国的机会，寻求就“一套全球原则和标准达成一致，这些原则和标准非常侧重于释放全部潜力，同时防范风险”。

辛顿说：“我们需要类似美国FDA监管药物的机制，即公司在发布[人工智能模型]之前，必须向独立机构提供非常好的统计证据，证明其利大于弊。我们从沙利度胺[一种20世纪50年代开发、导致严重出生缺陷的药物]中认识到，先放行再起诉并不是正确的做法。大型科技公司现在说的是，就像我们当年对待沙利度胺那样对待它。”

辛顿作为人工智能奠基者之一的身份，使他被比作罗伯特·奥本海默——后者是核武器诞生的核心人物。辛顿的一位朋友甚至给他买了一顶奥本海默风格的帽子。但他坚称：“我不是奥本海默”，并指出还有成千上万的其他科学家同样在神经网络领域工作。

尽管发出了警告，辛顿总体上仍抱有希望，认为灾难可以避免。

“我的直觉是，我们仍然掌控着局面，”他说。“我们很可能能够有所作为。只有我们付出巨大努力才行，但我们很可能会付出巨大努力。”