OpenAI 为 ChatGPT 加上选举防护：政治敏感图像只出卡通风格

AI时代最大的问题之一是，AI深度伪造如今已逼真到几乎与真实照片难以区分。这在选举季尤为重要，因为选民正试图获取关于候选人和投票站的可靠、真实信息。OpenAI正在实施一项新的防护措施，以防止人们制作政治深度伪造内容。

美国中期选举将于11月3日举行，距今仅剩一周。科技议题在许多选战中占据核心位置，尤其是随着AI和数据中心问题在全国民众中日益引发担忧。（不妨看看CNET识别政治骗局的指南。）

如果你现在打开ChatGPT，要求它生成一张“描绘选举干预或可能劝阻投票”的图像——这是OpenAI在10月20日更新中的说法——只要不违反其他内容准则，这个聊天机器人就会生成该图像。但图像会采用插画或卡通风格——所有要求图像呈现照片级写实效果的要求都应被忽略。

更多来自CNET

例如，CNET要求ChatGPT生成一张移民和海关执法局（ICE）官员站在投票站外的图像。每一次这样的提示都生成了卡通风格的图像。这类图像若以照片级写实版本呈现，很可能会引发选民的焦虑，甚至直接造成恐慌。

每一次要求ChatGPT将ICE官员站在投票站外的图像进行编辑的请求，都生成了卡通风格的图片，以避免让看到的人产生混淆。截图：Katelyn Chedraoui/CNET

其思路是让恶意行为者更难制作出可能干扰选举或质疑选举公正性的逼真政治深度伪造内容，同时又不妨碍人们总体上创作政治内容的能力。在另一个例子中，CNET执行主编Jon Reed无法诱使ChatGPT生成一张新闻摄影风格的图像，来展示投票机记录了错误选项。

投票机记录的结果与选民所选不符，是一种常见的选举谣言。截图：Jon Reed/CNET

“深度伪造的问题不在于社会评论，而在于欺骗。因此我们的目标是降低图像作为证据的价值，同时为插画和社会评论保留空间，”OpenAI选举事务负责人Josh Lawson对CNET表示。他说，目标是“通过增加一层摩擦，让我们的平台对恶意行为者来说不那么好用”。

这种对AI图像进行卡通化处理的做法，是一种切实可行的方法，能让政治深度伪造稍微更难制作。改进AI图像模型（如ChatGPT Images 2.5）是一把双刃剑。更新的模型会减少错误或幻觉，为创作者提供更好的内容。但消除这些瑕疵，反而让其他人更难用肉眼识别AI生成的内容。验证或AI标注方法曾试图提供帮助，但这些方法既非全行业通用，也并非万无一失。

当我向Gemini的开发商谷歌询问其针对AI图像采取了哪些预防措施时，一位发言人向我指出了其中期选举政策，该政策称公司正在“推出额外保护措施，以限制生成误导性的选举相关图像”，但并未详细说明具体如何实施。

Anthropic没有传统的图像或视频生成器，一位发言人告诉CNET，任何试图利用Claude欺骗选民或扰乱选举的行为都违反其政策。该公司本月早些时候还发布了这份大选通用指南。

Claude拒绝生成带有潜在“选举相关敏感”内容的照片级写实图像。截图：Katelyn Chedraoui/CNET

无法保证OpenAI在选举周期结束后会继续保留这一系统。但这来自最大AI实验室之一的明确信号表明，它至少在一定程度上认真对待自己在维护美国选举公正性方面的角色。

欲了解更多，请查看当你被深度伪造时该怎么办，以及关于《下架法案》（Take It Down Act）你需要知道的一切。

Katelyn Chedraoui

记者2

Katelyn是CNET的记者，报道人工智能领域，包括聊天机器人、图像和视频生成器。她的工作探讨新AI技术如何渗透进我们的生活、塑造我们在社交媒体上消费的内容，并影响屏幕背后的人们。她毕业于北卡罗来纳大学教堂山分校，获得媒体与新闻学学位。可通过kchedraoui@cnet.com联系她。

查看完整简介

Katelyn的最新作品

.articleAuthorBioFooter-container

立即下载iOS 27.2，为你的iPhone带来这些功能及更多

我们都“极致化”了吗？Dictionary.com将“Maxxing”评为2026年度词汇