研究披露AI机器人涌入2023年英国一次性电子烟禁令咨询

AI机器人以数万份虚假回复淹没了政府咨询，试图阻止英国禁止一次性电子烟，但未能得逞。

2023年关于烟草与电子烟法案咨询收到的全部回复中，有四分之三是机器生成的，这被认为是英国首次出现协同利用AI破坏卫生政策制定的尝试。

周二，爱丁堡大学的卫生政策专家Nason Maani博士和巴斯大学的Anna Gilmore教授在《烟草控制》期刊上发表的研究披露了这起操纵咨询结果的企图。

英国卫生与社会保障部（DHSC）采用机器人检测方法识别出，其收到的118,756份回复中有90,835份（76%）由机器人提交。

在这90,835份自动回复中，除两份外，其余都在“无烟一代”咨询中对同一问题作出了回答，反对里希·苏纳克领导的保守党政府禁止一次性电子烟的计划。DHSC表示，这些提交内容“经常被大量复制，并从少量IP地址高频发送”。

研究人员表示，这轮集中投递“似乎是首个有记录的大规模自动化干预正式公共卫生政策咨询的实例”。

Maani补充说，尽管这次企图被识别出来，但“威胁在于未来的行动会更难被发现，而我们发现不了的东西，我们就无从知晓。此类行动之所以构成威胁，是因为它们让少数强大的利益集团有可能看起来像一场群众运动。”

DHSC已将这90,835份自动回复排除在决策之外。基尔·斯塔默领导的工党政府于2024年继承了烟草与电子烟法案，并将其通过成为法律，其中包括禁止企业销售或供应一次性电子烟。

吸烟与健康行动组织副首席执行官Caroline Cerny表示：“有证据表明AI机器人被用来淹没卫生部咨询，这令人深感担忧。

“鉴于烟草行业历来试图破坏公共卫生监管，我们必须警惕技术进步可能被用来推进卫生政策方面的商业利益，并建立相应的保障措施。

“影响公共卫生的决策必须基于可靠的证据和专业知识，而不是被操纵的回复数量。”

智库Demos信息生态系统副总监Azzurra Moores称，这起破坏禁令的企图“相当令人震惊”。

她说：“公众咨询是政府公开决策的主要方式之一，因此对咨询的任何干预都是严重问题。这些发现相当令人震惊：如果一次咨询可以这样被淹没，它就无法再告诉政策制定者公众的真实想法，并会削弱人们对这一过程的信任。

“这是一个没有简单答案的问题。每一道阻止机器人的屏障也会让真实的人更难参与，而AI让虚假回复更难被识别。干预手段的适应速度快于各部门更新检查手段的速度。更好的筛查和更高的透明度会有帮助，但不存在单一的解决办法。”

DHSC表示，其“强有力的管控措施”识别出了这起影响咨询的企图。

一位发言人表示：“我们始终设有强有力的管控措施，防止公众咨询遭到操纵，这些措施在本案中发挥了有效作用。

“因此，虚假回复已被删除，此次咨询为我们在创造无烟一代方面所采取的具有里程碑意义的行动提供了参考。

“我们将在未来的咨询过程中继续警惕此类干预，并且不会被吓倒，仍将采取必要行动促进更健康的生活。”