红十字国际委员会警告AI正在放大战争破坏并呼吁设限

免广告

自主武器AI已在“放大战争的毁灭”

起草武装冲突法的人们希望为AI武器系统设置护栏。世界会倾听吗？

2026年6月8日，柏林：参观者走过赫尔辛公司展台上的自主CA-1欧洲战斗机。在“新时代防务”倡议的行业会议上，武器技术参展商。摄影：Carsten Koall/picture-alliance/dpa/AP Images

联合国本周开会讨论的事项之一，是自主武器的威胁。

“这项技术的发展速度非常令人担忧，”红十字国际委员会（ICRC）法律战团队负责人洛朗·吉塞尔对404 Media表示。吉塞尔本周在纽约，就所有正在推动全球冲突的因素向联合国发表讲话。他的准备发言包括关于非法武器贸易、核武器、地雷以及——当然——AI的陈述。

自主武器今年一直是联合国的热门话题。9月，联合国试图通过一项规范杀人AI武器使用的条约。俄罗斯和美国的外交官使其失去了效力。

但联合国仍在推进。周二，这一国际治理机构宣布了一项新倡议，以应对该问题。但正如吉塞尔所说：“多边进程需要相当长的时间”，而“我们已经看到战场上的影响。”

AI已经在选择目标并杀人。吉塞尔说，这项技术正在“放大毁灭，放大对法律的违反，放大冲突造成的人道伤害。”

以色列使用由微软提供支持的AI在加沙选择目标。在乌克兰，AI驱动的俄罗斯无人机正在决定要杀哪些人。美国军方正将自己宣传为“AI优先”的作战力量。国防部长皮特·赫格塞思最近宣布了“子午线计划”，这是一项指导未来AI驱动自主武器的倡议。 子午线计划的三个牵头人分别是埃隆·马斯克、国防承包商帕尔默·拉基和纽特·金里奇。

对吉塞尔来说，AI最大的危险之一就是它的速度。这项技术的一个核心卖点是，它可以帮助指挥官更快地做出决策。但这也加快了犯错的速度。“目标以更高的速度和更高的频率被生成，然后实际上被更快地打击，这让我们对保留的人类控制水平深感担忧，”他说。“人类本应始终留在回路中。”

人类并不总是留在回路中。以色列国防军告诉记者，他们并未彻底审查“薰衣草”系统生成的击杀名单，该系统是他们在加沙用来选择目标的AI系统。“在[平民世界]中众所周知……人类倾向于信任这些系统，”吉塞尔说。“当人类疲惫时、处于压力之下时、必须快速交付时，情况更是如此，而这当然正是士兵所处的境况。所以所有这些都让我们对在武装冲突中保持对武力使用的控制深感担忧。”

AI的鼓吹者常常把AI宣传为“一键搞定”的按钮，一种让人们强行处理复杂任务并尽快了结的方式。但当硅谷的某个人在解析电子表格或逆向工程代码时，与他们在中东进行战争时，后果截然不同。

“这也是那些系统的开发者未必意识到的事情，因为其中一些系统是由远离战场的科技公司开发的，它们并非天生都是为战场用途而开发的，”吉塞尔说。

国际人道法是世界大国之间不断演变的法律谈判，旨在限制战争的破坏性影响。它并不完美，像美国和俄罗斯这样拥有庞大军队的国家往往不遵守它。吉塞尔所代表的红十字国际委员会的存在， 明确地塑造这些规则和法律。有些法律很古老，远比AI古老，但吉塞尔表示，根据人道法，它适用于“所有武器、作战手段和方法。昨天的、今天的，以及明天的。”

除了将人道法编入AI的机会之外，吉塞尔表示，还应该为这项新技术制定新的规则和法规。“不是要全部禁止它们，而是要禁止特定类别的自主武器系统，并对其他类别施加具体限制，”他说。

“……一旦精灵从瓶子里出来，要把它放回瓶子里就非常、非常困难”

但他确实有红线。第一条是任何将人类从杀伤链中移除的AI支持系统。“从我们的角度来看，这需要具体的限制、护栏和约束，”他说。

“我们建议禁止的另一类自主武器系统是那些会直接以人类为目标的系统，即目标特征是人类，而不是坦克、武器系统或其他典型军事目标，其原因基于伦理关切、人道关切和道德底线，”他补充道。

自主武器已经存在很长时间了。一些美国军舰配备的加特林机枪能够自动追踪并摧毁来袭目标。区别在于，这些武器追踪的是舰船和导弹，而不是人类。

根据吉塞尔的说法，以人类为目标的自主武器或选择目标的AI支持系统的一个问题是，它们不可预测。他说，禁止不可预测的武器应该是显而易见的事。“军事纪律关乎你的部队[…]实现指挥官的意图，”他说。“如果你有一种效果不可预测的武器，你怎么能实现指挥官的意图？”

数据中心现在是战争目标“为什么我们已经到了允许各国军队将民用商业数据中心用于其军事目的的地步？”404 媒体Matthew Gault

但这在谈判中一直是个症结。“我们本以为军事考量会与之保持一致。但实际上，这方面也遭遇了相当大的阻力。说来奇怪，”他说。他谈到的是今年早些时候8月和9月的谈判。“该工作组主席在上一份提案中恰恰提到了所有这些问题：自主武器系统需要可靠、可解释、可理解和可预测。而所有这些都被一些国家删掉了。”

吉塞尔也反对将AI用于核指挥与控制。1983年，苏联的早期预警系统报告称美国向该国发射了一枚核武器。苏联中校斯坦尼斯拉夫·彼得罗夫判定计算机出了错，决定不将袭击上报。他是对的。

“各国将继续使用卫星系统，因此也会继续使用与这些卫星配套的算法，”他说。“但确保它完全处于人类控制之下、处于真正有意义的人类控制之下，这一点非常重要。”

在联合国进行审议、红十字国际委员会努力应对如何监管这一切的同时，战争仍在继续，军队仍在继续拥抱AI。“这就是为什么国际社会迫切需要就禁止什么、限制什么做出决定[…]一旦精灵从瓶子里出来，要把它放回瓶子里就非常、非常困难，”他说。

吉塞尔说，世界需要立即行动。“否则，就将是技术来决定什么是可接受的，而那并不是我们想要生活的世界，对吧？”