什么是能自我复制的 AI 蠕虫，Anthropic 为何担忧

“无论实验室在宣称什么，他们的警告都不够。我们需要明白，没有人能阻止这场AI风暴。” 摄影：Kim Kyung-Hoon/路透社

“无论实验室在宣称什么，他们的警告都不够。我们需要明白，没有人能阻止这场AI风暴。” 摄影：Kim Kyung-Hoon/路透社

解读：什么是能自我复制的“AI蠕虫”，Anthropic为何担忧？

这家科技公司表示，成功的AI蠕虫需要在算力更低的设备上具备更强的能力，但当前的趋势使这在今年年底前成为可能

关于人工智能未来可能做什么的警告——连同有关它已经干了什么的令人警觉的报道——发布得如此之快，以至于连安全专家都难以判断该担心什么。

然而，Anthropic攻击性研究团队本周发布的一份报告引起了关注，因为它描述了一种新的、现实的威胁，其中没有人类特征，也没有末日式的遐想。这个被称为“红队”的内部测试团队表示，他们创建了一个恶意AI程序，该程序通过联网的“智能”电视自主传播，并能在其他普通设备内部做同样的事。虽然运行AI的机器通常需要相当多的算力，但研究人员表示，他们的程序将自身的各个部分拆分到15台电视上，并且仍能通过使用每台电视的一点算力来运行。

除了让人联想到《哈利·波特》系列中让伏地魔灵魂碎片在物体中存活的魂器之外，这份报告还令一些专业人士感到警觉，因为智能电视和许多其他“物联网”设备普遍薄弱的安全性将很难纠正，即使付出协同努力也是如此。

“这就像其他每一波网络攻击一样，是值得担心的事情。我们需要减轻可能的影响，”领导Meta AI安全工作开发的Joshua Saxe说。“我现在担心的是，网络安全界的人士没有像他们应该的那样认真对待这类真实风险。”

此类“AI蠕虫”的破坏可能大得惊人。无需诱骗人类即可传播的自我复制计算机病毒被称为蠕虫，早先的蠕虫曾在互联网历史上造成一些最严重的破坏。

这段历史包括1988年的莫里斯蠕虫，它出现在主流消费互联网之前，当时一名研究生发布了一个利用各种软件漏洞和弱密码的程序，它复制自身如此之快，以至于许多受感染的机器慢到停滞。美国和以色列在2000年代末通过隐蔽的Stuxnet将蠕虫带入国际间谍活动，该蠕虫破坏了伊朗的核离心机。其他蠕虫，如俄罗斯的NotPetya和被归因于朝鲜的WannaCry，已在全球造成数百亿美元的损失。

世界上许多最具破坏性的蠕虫都依赖于设备所有者未修补的已知漏洞，有时是在补丁发布数月之后。Anthropic团队预测，像他们这样的蠕虫可以以同样的方式运作，而且更难阻止，因为智能设备接收补丁的频率低于手机或笔记本电脑。更糟的是，他们推测，AI蠕虫可以通过研究新披露的漏洞来不断适应其他类型的硬件。

OpenAI早期安全专家、现经营AI安全初创公司RunSybil的Ariel Herbert-Voss说，AI蠕虫与典型复制病毒的不同之处在于，AI模型可以在运行中学习。Herbert-Voss说，现有的网络安全基础设施还没有为这类威胁的扩散做好准备。“我们需要更好地赋能我们的安全团队。我们需要给他们更多资源来解决问题。”

曾在拜登政府中担任国家网络总监的美国国家安全局前副局长Chris Inglis提出，蠕虫也可以用于善意目的。

“AI蠕虫是否可行的问题，已经被过去六个月里的几起突破性事件解决了，”Inglis通过数字信息说。“更好的问题是，我们将如何使用它们、对抗它们，和/或将它们与其他新兴技术结合起来。”

Anthropic研究人员表示，成功的AI蠕虫需要在算力更低的设备上具备比现在更强的能力——但他们补充说，当前的趋势将在今年年底前使这成为可能。他们的研究紧随多伦多大学专家几个月前发表的一篇论文，该论文中的蠕虫感染了一台全尺寸电脑，并能比电视蠕虫更快地传播到类似机器。

“这些能力一直在非常迅速地发展，”共同作者、多伦多大学博士生Jonas Guan说。

Guan和其他专家表示，从实际角度来看，AI蠕虫不应排在任何人AI恐惧清单的首位。Guan说，Anthropic的版本移动得非常慢，而且蠕虫具有可预测、可检测的行为，可以在多个层面被阻止。专家说，基本的安全卫生措施，包括要求强密码和双因素认证，将阻止大多数蠕虫和其他黑客行为。

“这件事根本谈不上真正可行或有影响力，”安全公司SentinelOne研究副总裁胡安·安德烈斯·格雷罗-萨德说。“这不过是花哨的特技黑客行为，却被大肆放大，用来服务于那些荒谬的末日论叙事——它们暗示模型拥有自己的心智和意志。”

Anthropic未回应采访请求。

在华盛顿之外，AI界和安全界的许多人认为，政府对AI加强监管如今已必不可少。但国会议员提出了相互冲突的法案，而白宫迄今只设立了一个小型审查委员会。

安全研究人员和普通民众都在权衡AI公司那些可怕预测背后的动机：从宣扬准宗教信仰，到寻求立法以排除竞争对手或节省开支，再到炒作旧金山AI巨头们预期的数万亿美元公开估值。

“说其中很多是营销，这没错，但现实远超任何公关，”加迪·埃夫龙说。他本月将在旧金山举办一场名为Unprompted的AI安全会议。“无论这些实验室在宣称什么，他们的警告都不够。我们需要明白，没有人能阻止这场AI风暴。”探索更多相关主题

科技

AI（人工智能）

最多浏览