AI 热点

联合国会议未能取得制定全自主武器约束性禁令的授权

heise online更新于 11月22日 01:20

Killer-Roboter: UN-Konferenz endet ohne Mandat für verbindliches Verbot | heise online

AI 导读

联合国《特定常规武器公约》第七次审议大会未能为全自主武器系统制定具有法律约束力的禁令,仅由128个缔约国达成弱化后的最低共识。各方将继续谈判,计划在两年内拟定新规则,但是否形成国际法层面的约束性协议仍不明确。会议采用的共识决策机制使少数国家得以阻止更进一步的行动,其中俄罗斯反对约束性规定,美国、英国、以色列和白俄罗斯也对相关条约表示保留。

推荐理由

精选AI 评分 77

联合国会议的共识决策机制让少数国家得以阻止约束性禁令,呈现自主武器国际监管面临的制度障碍。

主题

标签

正文 · AI 翻译

联合国《特定常规武器公约》第七次审议大会经过艰苦谈判,于周五深夜至周六凌晨在日内瓦以最低限度的共识落幕。128个缔约国并未为制定全自主武器系统的法律约束性禁令铺平道路,而只是在凌晨时分就一项弱化后的授权达成一致。他们没有响应获得广泛支持的、明确禁止“杀手机器人”的呼吁。

广告后继续阅读

根据这项授权,各方虽将继续谈判,以期在两年内制定新规则,但鉴于谈判以往的进展,这些规则是否会最终形成具有国际法约束力的协议,仍是未知数。

在为期一周的大会召开前及会议期间,98个国家和众多非政府组织都主张迅速制定具有约束力的限制措施。不久前,还有163个国家支持了一项赞成就冲突中使用自主系统制定约束性法律规则的决议。

11月中旬,欧洲委员会人权专员Michael O'Flaherty也曾警告,算法画像正日益将军事目标选择变成一座自动化“目标工厂”。杀人无人机一路追踪人们直至其住所,随后空袭便会获准实施。

共识决策机制导致阻挠

大会依据《特定常规武器公约》(CCW)作出的决定必须始终以共识通过。因此,一小部分国家的反对便足以阻止更具雄心的行动。俄罗斯尤其反对制定约束性规定,这实际上相当于行使否决权。美国、英国、以色列和白俄罗斯也对承诺制定具有法律约束力的条约表示保留。

德国联邦政府此前虽然大力主张禁止全自主武器,但在磋商期间释放了愿意妥协的信号,以免危及共识。

经过总计13年的国际讨论,人权组织和专家对这一结果提出了尖锐批评。德国“停止杀手机器人”联盟发言人Thomas Küchenmeister批评这是一项“软弱无力的授权”。他说,从中完全看不出及时禁止并全面监管自主武器的任何雄心。

Küchenmeister担心,这将导致军事人工智能领域的军备竞赛毫无节制地继续下去。如果在实战情况下,士兵只剩几秒钟来判断人工智能辅助提出的目标建议是否符合国际人道法,就几乎无法再确保真正的人类控制。

广告后继续阅读

“停止杀手机器人”执行主任Nicole van Rooijen指出,自主技术——包括目标识别过程中的人工智能系统——已经在战场上投入使用。每进一步拖延制定约束性规则,都会令平民和全人类面临危险。人权观察的Verity Coyle批评称,在技术飞速发展、亟须明确规则之际,这一结果却造成了法律上的不确定性。

世界正面临新的“奥本海默时刻”

许多非政府组织要求制定一项具有国际法约束力的文书,其中既包含明确禁令,也包括积极义务。按照他们的主张,应禁止直接以人为目标的系统,以及无法实现有效人类控制的系统。对于其他所有自动化程序,法律必须确保其具有充分的可解释性,并对其使用的空间和时间范围作出严格限制。

这些组织表示,现有的国际人道法原则以及联合国专家组9月提交的成果均不足以应对问题,因为它们未能充分处理自动化战争带来的伦理和安全政策风险。

观察人士还批评大会缺乏透明度,因为大部分磋商都在没有民间社会参与的情况下闭门进行。Lex International组织的Magnus Lovold反对继续将这一议题留在受阻的CCW共识决策机制内。鉴于目前的发展态势,世界正面临一个“奥本海默时刻”——堪比原子时代的开端。国际社会拖延得越久,就越难设置亟须的防护性规则。

(nie)

来源

heise online