专家警告美国中期选举前社交媒体充斥 AI 虚假信息

专家表示，在11月美国中期选举前夕，社交媒体信息流中充斥着前所未有的、由人工智能驱动的虚假信息浪潮，他们警告称，许多帖子很可能“从缝隙中溜过”而未被拦截。

随着数千万美国人准备投票，社交媒体公司已缩减了保护选民免受旨在操纵选举的谎言影响的努力。

尽管剑桥分析丑闻后对Facebook的强烈反弹促使社交媒体巨头加强了其信任与安全运营，但右翼出于对言论限制的担忧而发起的反向反弹——在埃隆·马斯克收购X（前身为Twitter）以及唐纳德·特朗普于2024年当选后进一步加剧——已导致相关团队大幅裁员。

人工智能使发起虚假信息运动变得比以往任何时候都更容易。而平台正越来越多地依赖人工智能，而非人工干预来应对。

“你现在可以以极低、极低的成本开展信息行动，其质量在2016年是不可能实现的，”弗朗西斯·豪根说道，她曾是Facebook的数据工程师，后成为举报人，并倡导大型科技公司的透明度和问责制。她说，玩弄肮脏伎俩的行动者可以绕过内容审核规则，“因为每次创建帖子时你都可以稍微调整一下，其中一些就会通过”。

从宾夕法尼亚州到得克萨斯州的竞选团队一直在忙于应对网上出现并迅速传播的谎言。与以往的选举不同，他们发现自己陷入困境：当捏造和虚假信息传播时，他们究竟该向谁求助？

Facebook和Instagram的母公司Meta Platforms以及X未回应置评请求。谷歌旗下的YouTube表示，其所有用户都须遵守相同的准则。

詹姆斯·塔拉里科是正在得克萨斯州竞选美国参议员的风头正劲的民主党人，本月早些时候他暂别竞选活动以从流感中康复。但许多社交媒体信息流却给出了他缺席的另一个——虚假的——原因：据称他正在俄亥俄州的一家精神健康机构接受治疗。

这一说法纯属捏造，由一名右翼“挑衅者”推动，此人发布了一段与医院工作人员通话的欺骗性剪辑录音。塔拉里科的竞选团队公布了显示他在得克萨斯州家中的监控录像，这位候选人公开澄清他从未去过俄亥俄州。

但这个谎言传播开来——并被不断煽动——持续了数天。

参议员候选人詹姆斯·塔拉里科在中期选举前于得克萨斯州韦斯拉科举行的Voto Latino“Ready, Go, Vote”集会上向与会者讲话。摄影：Michael Gonzalez/AP

美洲数字民主研究所（DDIA）追踪了其传播过程，以及该错误信息在被保守派西班牙语媒体采用时如何发生变异。最初关于塔拉里科在俄亥俄州住院的病毒式谎言，在西班牙语中变成了他曾试图自杀的虚假说法。

该案例“凸显了在反击选举虚假信息时反复出现的挑战”，DDIA的研究人员写道。谎言在传播过程中不断演变和变化，“使得最初的更正不足以应对该故事的每一个版本”。

“各公司在处理西班牙语内容方面设置的防护栏少得多，尤其是现在它们已经撤回了自己在内容审核方面的大量投入，并转向以社区为中心的内容审核，比如‘社区笔记’式的做法，”布拉加说。“既然它们现在使用人工智能来完成大量内容审核，就更有可能有更多内容从缝隙中溜过。”

塔拉里科在得克萨斯州的共和党对手肯·帕克斯顿今年早些时候还发布了一则竞选广告，使用AI生成的塔拉里科——一名长老会神学院学生——据称在改写《圣经》的画面。

“我认为得克萨斯人已经厌倦了我们政治中的这类谎言，”塔拉里科9月对NBC新闻说。“这些AI深度伪造广告对我们的公民 discourse 毫无助益。它们无助于阐明摆在选民面前的选择。”

选举虚假信息背后的网络攻击小队曾经只在边缘活动。如今，他们的作品可能被官方政府消息源放大。

当X和右翼博客上的病毒式帖子声称一名在宾夕法尼亚州中部被捕的无证移民是民主党人贾内尔·斯特尔森国会竞选团队的现役现场工作人员和拉票员时，工作人员们让真相飞奔起来，试图追上谎言。

民主党候选人贾内尔·斯特尔森9月23日在宾夕法尼亚州约克黑文的一次竞选活动上讲话。摄影：Marc Levy/AP

然而，就在他们这样做时，国土安全部的一份官方声明却放大了这一说法。“令人难以置信的是，贾内尔·斯特尔森竟然会雇用一名非法外国人来为国会竞选工作，更不用说还是一个在公共场合暴露自己的变态，”移民和海关执法局（ICE）副局长查尔斯·沃尔宣称。

订阅《The Stakes 2026》

一份关于美国中期选举真正重要议题的每周指南，以及突发新闻提醒。

但竞选团队公布的记录显示，这名移民奇马奥比姆·阿德达约·伊格博杰克韦在该竞选团队中并无带薪职位，尽管警方最初的事件报告称伊格博杰克韦自称是竞选工作人员。他们坚称这一说法可被证明是虚假的。

斯特尔森的对手、共和党国会议员斯科特·佩里的竞选团队继续投放带有该说法的广告。

斯特尔森竞选团队向媒体发出了停止侵权函。一名福克斯新闻记者删除了X上关于这起猥亵暴露逮捕事件的帖子。华盛顿公民责任与道德组织的活动人士提出投诉，指控国土安全部违反《哈奇法》，该法限制政府雇员的政治活动。

“特朗普已明确表示他打算干预选举，”诺拉·贝纳维德斯说，她是自由新闻组织的民权和言论自由律师，该非营利组织倡导媒体独立。她补充说，特朗普“利用了整个联邦政府的机构，无论是美国邮政局还是国土安全部——你能想到的都有”。

斯特尔森的竞选团队尚未直接向社交媒体平台投诉：Meta的Facebook、埃隆·马斯克的X、谷歌的YouTube或其他平台。但一位发言人表示，竞选团队“继续考虑一切法律途径，以反击佩里广告中的虚假说法”。

主要社交媒体平台确实有明确的规则——基于具体、有限的定义——规定在竞选期间如何处理AI驱动的虚假信息。

Meta要求广告主在选举广告中披露使用合成图像和AI生成内容的情况，并对通过内容来源与真实性联盟（C2PA）元数据识别出的AI生成图像执行自动标注。它还禁止歪曲投票日期、地点或法律要求的帖子和广告，以及暴力威胁。

但该公司对政治评论几乎不进行主动审核，只是将未经请求的政治内容排除在其推荐帖子之外。自由新闻组织的一项分析指出，Meta在2023年收窄了其历史上的限制，以允许围绕过往选举周期合法性的辩论。

2023年，YouTube也停止删除虚假声称2020年选举或其他过往美国总统选举受到“广泛舞弊、错误或故障”影响的内容，称删除这些内容遏制了虚假信息，但也对政治言论产生了寒蝉效应。

据该平台称，YouTube的“所有用户”，包括政治候选人和竞选团队，“都受相同的社区准则约束……并可使用相同的公开举报工具”。

然而，它对选举虚假信息的定义很狭窄：误导选民了解投票的时间、地点、方式或资格要求的内容，或可能实质性劝阻投票的虚假说法，均被禁止。声称选票上的某位候选人在某种程度上不符合资格，或呼吁黑客攻击投票站计算机、煽动在选举地点实施暴力的内容，也被禁止。YouTube发言人在回应询问时写道：“我们还会仔细审查政府请求，以确定内容是否应因违反法律或我们的政策而被删除。”

谷歌拥有一个肖像检测系统，允许公民领袖在AI生成的图像虚假描绘其言论或行为时请求删除视频。但超出这些界限的直接谎言可能会在无人干预的情况下传播。

谷歌不依赖下架，而是倾向于在搜索结果中以及通过上下文“信息面板”在高风险公民视频下方突出显示权威新闻媒体和选举委员会的内容。

X（前身为Twitter）在被马斯克收购后放弃了内部安全审查，代之以众包的“社区笔记”计划。其公民诚信政策禁止关于如何投票的虚假信息和压制计划。该平台据称还限制旨在误导的合成媒体，尽管专家认为，如果不执行，该政策形同虚设。

“当你因为AI只会稍作调整就能通过而无法再专注于内容时，你就必须关注分发系统是什么，”豪根说。“偏见是什么？我们有哪些反馈系统、循环，能让社区提供反馈，能让它被抑制下来？”