AI 热点

美国参议员就 AI“脱衣”应用向 Apple、Google 和 Meta 施压

9to5Mac更新于 11月19日 04:52

Apple among the companies facing pressure from US senators over ‘nudify’ apps

AI 导读

3 名美国参议员致函 Apple、Google 和 Meta CEO,要求解释平台未能有效阻止 AI“脱衣”应用传播的问题。TTP 上月使用注册为 13 岁男孩的账号,在 App Store 和 Play Store 发现 135 款可生成裸露或色情图像的应用,启用家长控制后仍可在无需家长批准的情况下下载。参议员 Ron Wyden 警告,若企业未能加强治理,国会可能介入。

推荐理由

AI 评分 72

调查显示平台规则与执行之间仍有明显落差,国会施压可能推动应用商店和广告平台加强治理。

主题

标签

正文 · AI 翻译

《卫报》报道称,3 名美国参议员已致函 Apple、Google 和 Meta 的 CEO,要求这些公司就未能阻止用户访问 AI 驱动的“脱衣”应用作出解释。以下是详细情况。

一些背景

上个月,Apple 更新了 App Store 规则,试图打击那些可让用户生成未经本人同意的裸照的应用。

根据更新后的规则,允许用户创作 AI 生成内容的应用必须具备防止滥用的保护措施,包括用于过滤不当材料、举报冒犯性内容和封禁滥用者的工具。

Apple 还警告称,主要用于制作色情内容或将真人物化的应用可能会被直接从 App Store 下架,恕不另行通知。

Apple 的这些调整无疑出于善意,但与此同时,关于 AI 驱动的脱衣应用的报道日益增多;用户利用这类应用,可以轻易生成未经本人同意的私密影像。

在上述规则调整的两个月前,WIRED 联系 Apple 寻求置评后,该公司下架了一款允许用户制作真人色情深度伪造内容的应用;而再往前一个月,旧金山市检察官 David Chiu 曾要求 Apple 和 Google 从各自的应用商店中移除多款脱衣应用。

在科技透明度项目(Tech Transparency Project,TTP)展开调查后,Apple 还下架了多款应用。TTP 在今年 1 月和 4 月发布报告,披露此类应用在 App Store 中普遍存在,有时甚至会出现在赞助搜索结果中。

在这些调查期间,Apple 始终坚称,脱衣应用一直受到其《App 审核指南》的禁止;对于违反其政策的应用,包括经用户举报标记的应用,该公司会主动予以拒绝或下架。

当然,面临这一挑战的不只有 Apple。Google 也因 Play Store 中存在此类应用而受到类似批评;正如上述 WIRED 报道所指出的,Meta 则因允许开发者在 Facebook 和 Instagram 上为这些应用投放广告而受到审视。

这就引出了《卫报》今天的报道。

参议院民主党人要求作出解释

据《卫报》独家报道,“3 名参议院民主党人致函科技公司 CEO,称其平台针对脱衣应用采取的保护措施并不充分。”

报道写道:

3 名美国参议员表示,Apple 和 Google 未能有效发现并移除可用于生成未经本人同意的裸露或色情图像的应用。他们还表示,Meta 仍在通过这些所谓脱衣应用的广告获利,而这些应用“正在侵害世界各地的妇女和女孩”。

这3名参议员分别是俄勒冈州的 Ron Wyden、马萨诸塞州的 Ed Markey 和新墨西哥州的 Ben Luján。他们声称,这些公司不仅没有移除相关应用,事实上还可能在通过其分发和推广获利。

在就这封信置评时,Google 和 Meta 均表示,它们禁止此类应用或相关推广,并致力于发现和移除平台上的违规内容。这些说法大体上与 Apple 过去多次就同类问题回应置评请求时的表态相呼应。

然而,Wyden 的办公室认为,如果这些公司仍难以执行相关政策,那么仅仅重申这些政策——或像 Apple 那样更新政策——并没有多大意义。

《卫报》的报道写道:

Wyden 的首席传播顾问兼政策副主任 Keith Chu 表示,明确政策并不等同于执行政策。他补充道,尽管这些公司重申禁止此类应用,但它们仍在 Apple 和 Google 的应用商店中不断涌现,或通过 Meta 平台上的广告得到推广。

TTP 在上个月刚刚发布的最新调查中,使用注册为 13 岁男孩的账号,在 App Store 和 Play Store 中发现了 135 款能够生成裸露或色情图像的应用。

此外,研究人员发现,即使账号已配置家长控制,也仍然可以在无需家长批准的情况下下载这些应用。

尽管 Apple 和 Google 下架了调查中发现的应用,但《卫报》指出,这些应用在此前已完成安装的设备上仍能继续运行。

如今,Wyden 参议员警告称,如果这些公司不能更有效地打击此类应用,国会可能需要介入。

如需阅读《卫报》的完整报道,请点击此链接。

来源

9to5Mac