教皇利奥十四世呼吁"解除"AI 武装，敦促禁止致命性自主武器

教皇利奥十四世于2026年10月30日在教皇厅发表讲话，呼吁对人工智能进行“解除武装”，并鼓励11月在日内瓦开会的各国采取具体步骤，禁止致命性自主武器。

此次接见的与会者来自“人工智能的未来：梵蒂冈与科学界关于智能技术发展与应用的对话”会议，该会议由宗座生命科学院与未来生命研究所联合举办。

教皇对来自许多国家的与会者表示欢迎，并说他相信他们对人工智能的发展抱有同样的不安：他说，应当走的方向是明确的，但沿着这一方向采取的行动还不够。他感谢与会者的关切以及他们对未来的想法和建议，称这些是跨学科方法的初步成果，并表示，若要应对当今重大挑战的复杂性，这种方法日益必要。

教皇回顾了教皇方济各2024年6月14日就人工智能问题向七国集团会议发表的讲话，方济各在其中将人工智能描述为一种既令人兴奋又令人恐惧的工具，并申明绝不能将决定夺走人生命的权力交给机器。利奥十四世说，这些话至今依然同样切合时宜，并补充说，他曾在通谕中力求更深入地探讨这些问题，随后提出了五点考量。

五点考量

教皇说，第一，人工智能的未来并非预先注定：因为技术是由人类开发的，其未来取决于人们所做的选择，因此人们有责任引导和改变其应用，并在必要时予以拒绝。他说，决定性的问题不是人工智能仅仅能做什么，而是它应当服务于什么目的。他警告说，那些仅将其发展视为一场必须赢得的竞赛的人，有可能执迷于终点线而忘记被落在后面的人；一个服务于人的可靠系统，比一个异常强大却无法充分预见或控制其后果的系统更有价值。

他说，第二，“机器是工具，不是人。”人工智能系统不经历体验，也不拥有身体；它们不会感到喜悦或痛苦，不会通过关系而成熟，也无法从内部理解爱、工作、友谊或责任意味着什么。一些人提议赋予此类系统权利甚至法律人格，他警告说，这种做法有可能模糊人类的责任，并迫使遭受伤害的人向一个没有人类面孔的实体寻求救济。

教皇说，第三，某些决定绝不能委托给机器。他说，被列入目标名单或被录入边境管制数据库的人，有可能被简化为不过是一个数据点；而影响人的生命、自由以及武力使用的决定，必须始终置于有效、知情且负责任的人类监督之下。他说，正因如此，人工智能必须被解除武装，并鼓励11月在日内瓦开会的各国采取具体步骤，禁止致命性自主武器。

他说，第四，智能技术必须服务于共同利益，绝不能成为自身的目的，也不能仅仅服务于少数特权者的利益。他援引其通谕中的教导——正义要求人们能够获得创新的惠益，包括照护、知识、工具和机会——并说，这些技术的发展应鼓励全球社会各层面的团结与参与，确保进步的惠益得到公平分享，尤其是与最需要的人分享。

他的第五点考量，他称之为或许最为紧迫的一点，转向了制度。他说，指导人工智能发展的许多伦理原则已为人所知；现在需要的是能够将其付诸实践的制度，尤其是能够维护全球共同利益的有效国际制度。他说，这要求共同的标准、独立的监督和明确的问责机制，以便有关人工智能发展和使用的决定能够得到审查、在必要时受到质疑，并辅以对所造成的损害的适当补救。教皇最后感谢与会者的贡献，敦促他们本着对话和对共同利益共同负责的精神坚持不懈，并赐予他的降福。

讲话背后的通谕

这篇讲话将其五点考量中的每一点都建立在《Magnifica Humanitas》的编号段落之上。该通谕由利奥十四世于2026年5月15日发布，全名为《论在人工智能时代保护人的尊严》。在这份文件中，教皇指出，利奥十三世于1891年发布了他的通谕《新事》，而教会于2026年庆祝该文件颁布135周年。

该通谕指出，国家曾经在很大程度上引导和指导创新，而如今技术发展的主要推动者是私人、往往是跨国行为体，它们拥有的资源和干预能力超过许多政府。文件指出，这种转变赋予技术力量一种前所未有的、以私人为主的性质，使其更难被辨识、治理和引导向共同利益。其各章分别专门论述了责任、透明度和人工智能治理，以及武器与人工智能。