Open Rights Group 报告称英国内政部秘密部署 AI 用于移民与庇护审查

一项研究显示，人工智能已被近乎完全秘密地嵌入英国内政部的各项工作，进一步强化了所谓的移民“敌对环境”。

根据开放权利组织（ORG）的一份报告，从识别疑似假结婚、判定寻求庇护者的年龄，到检查新入境者手机内容等任务，如今都涉及使用这项技术。

它还被用于通过实时人脸识别以及由人工智能驱动的无人机和卫星对边境进行监控；用于总结庇护面谈以及在这些面谈中作为证据使用的国家政策信息；并通过不透明的“识别和优先处理移民案件”（Ipic）工具对案件进行排序和评估。

报告的信息来源包括内政部发布的有限信息、信息自由请求以及议员的提问。该报告获得了跨党派的支持，包括工党的Bell Ribeiro-Addy、苏格兰民族党的Pete Wishart和绿党的Siân Berry。

这份题为《Automated Discrimination: Unpacking the Digital Hostile Environment》的报告对在移民领域使用人工智能表示担忧，称其并非中立或准确，可能复制社会中的偏见和歧视，尤其是当其使用的主要驱动力是反移民政策和言论时。

报告称，人工智能正在近乎完全保密的情况下接受试验和测试，官员们经常援引国家安全来阻挠信息自由请求，并对披露内容进行删改。历届政府都受到批评，因为它们推行一种意识形态，将复杂的人类个案简化为可以修复的技术问题。

报告对“将人简化为数据点”以及重现特蕾莎·梅2012年担任内政大臣时首次设想的敌对环境表示担忧。报告指出：“依赖人工智能来决定谁可以留在这里、谁会被抛回危险之中，是一种极其令人震惊的举动。”

开放权利组织呼吁政府监管人工智能，并禁止不民主且存在侵犯人权风险的使用，例如在庇护申请中使用ChatGPT工具。

它还希望提高透明度、加强信息自由法、收窄国家安全定义，并建立一份可靠的政府人工智能工具公开登记册。

Ribeiro-Addy表示：“尽管我们提出了问题和请求，内政部仍不愿公布相关文件，而这些文件本可以解释人工智能在庇护处理中如何使用、存在哪些问题以及如何解决。该部门没有说明在出现失误时如何确保问责，也没有解释为什么一些最脆弱、权力最小的人应当承担最大的风险。”

开放权利组织的项目经理Sara Alsherif表示：“移民是一种人类现象和经历，而不是一个可以由人工智能解决的技术问题。我们迫切需要透明度、问责制和严格的监管，以限制人工智能的使用方式并防止其进一步推广。”

我们的晨间邮件会梳理当日要闻，告诉你正在发生什么以及为何重要。

英国内政部发言人表示：“使用人工智能只是我们用来保护边境的手段之一，并不会取代或自动化人类决策者的角色。

“庇护决定由受过培训的案件工作人员作出，人工智能工具仅用于协助查阅面谈记录和政策信息。它们不能被单独使用，也不会对申请作出决定。

“我们会结合既有的质量保证流程，定期监测这些工具的表现，并且已经承诺公布有关其推广使用的最新评估。”