Ofcom 拟将身材羞辱与抑郁内容列为儿童保护优先内容

英国通信管理局（Ofcom）建议要求平台保护儿童免受身材羞辱内容和宣扬抑郁内容的影响。然而，其自身证据尚无法证明其现行儿童安全规则是否有效。

在10月22日发布的首份关于有害儿童内容的报告中，Ofcom发现，自其规则于2025年7月生效后的九个月内，儿童接触有害内容的情况没有显著变化。彼时，YouTube和TikTok仍未承诺落实Ofcom所呼吁的主要变革。这两个新类别也在很大程度上取决于具体语境，而自动化系统难以对此加以解读，且报告未估算执行拟议规则的成本。

报告并未声称对规则进行了评估。报告称：“报告未评估《儿童保护业务守则》中各项措施的有效性，也未评估服务提供商为保护儿童上网而采用的其他安全措施。”

Ofcom发现了什么？

大多数儿童仍会看到有害内容。以下数据展示了在Ofcom于2026年3月至4月开展调查前的四周内，11至17岁青少年中看到各类内容的比例：

危险特技或挑战：29%

信息流：儿童最常通过个性化信息流接触有害内容，其次是通过评论区。

搜索：搜索引擎是儿童访问色情网站30%的入口。在Ofcom的测试中，生成式AI驱动的搜索工具和传统搜索引擎在20.3%的查询中返回了未经年龄核验的色情网站链接。

弱势儿童：患有健康问题或有特殊教育需求的儿童更可能接触到抑郁和身材污名内容。女孩、非白人儿童以及患有受限性疾病的儿童更可能接触到身材羞辱内容。

福祉：看到此类内容的儿童报告了更低的福祉水平。Ofcom提醒称，其结果“不应被视为因果关系”。

Ofcom提出了哪些建议？

Ofcom希望将身材污名和抑郁内容加入《在线安全法》的“优先内容”清单。其对这两个类别的定义如下：

身材污名内容：指“羞辱或以其他方式污名化体型或身体特征”的内容。

抑郁内容：指“宣扬抑郁、绝望和无望感”的内容，包括“美化、颂扬或浪漫化”这些感受的内容。

这两个类别目前均属于“非指定内容”。平台只有在自身风险评估标记出此类内容时，才必须处理这一层级的内容。如果这些类别成为优先内容，所有受规则约束的平台都将必须保护风险年龄段的儿童免受此类内容影响。Ofcom表示，关于危害（尤其是反复接触所致危害）的证据现已“充分确立”，足以证明这一变更是合理的。

Ofcom决定不新增另外两个类别：

AI聊天机器人：Ofcom表示，危害源于某类服务而非某类内容。政府也在就此问题起草单独立法。

血腥、极端暴力内容：Ofcom曾考虑禁止所有儿童接触此类内容，并援引了儿童看到查理·柯克死亡画面的案例。然而，由于政府计划将最极端形式的此类材料定为犯罪，Ofcom暂缓了这一举措。

Ofcom在2025年要求平台做了什么？

Ofcom的《儿童保护守则》于2025年7月25日生效。守则包含40多项措施，分为两大类。

设计措施改变平台的运作方式：

更安全的信息流：处于中等或高风险的平台必须将有害内容排除在儿童信息流之外，或使其“处于低显著度”。由于信息流是儿童接触有害内容的主要途径，该措施针对的是一个主要暴露来源。

年龄核验：风险最高的服务必须使用“高效年龄保证”手段，例如身份核验或面部年龄估计。

控制功能：儿童必须能够屏蔽和静音账户、关闭评论以及拒绝群聊邀请。

治理：每项服务都必须指定一名对儿童安全负责的具名人员。

内容措施取决于对单条帖子的评估：

内容审核：所有服务在知悉有害内容后必须迅速采取行动。

支持：搜索有害内容的儿童必须看到支持性信息。

新建议将通过扩大平台必须评估的内容范围来扩展内容措施。

平台是否遵守了规则？

平台普遍采用了年龄核验，但信息流相关要求仍存在争议：

年龄核验：根据Ofcom 7月发布的年龄保证报告，英国最受欢迎的10个色情网站现在都会核验用户年龄。被要求证明年龄的儿童比例从41%上升至51%。

信息流：据ITV报道，2026年5月，Ofcom表示YouTube和TikTok尚未“就我们的具体要求承诺作出任何重大改变”。两家公司均表示其信息流对儿童已经是安全的。

审核：来自Instagram、TikTok和YouTube等七大平台的数据未显示出任何一致的趋势。一些平台在2025年对更多有害内容采取了行动，而另一些平台则采取了更少的行动。

是否有证据表明这些规则奏效了？

关于规则效果的证据仅限于平台已明确采取的措施：

年龄核验：“高效的年龄保证正在帮助防止儿童访问色情服务，”Ofcom表示。

信息流：表示通过信息流接触到有害内容的儿童比例从规则生效前的37%降至生效后的35%。

总体接触情况：约十分之七的儿童仍报告看到过有害内容，这一比例与2025年7月之前记录的比例相似。

Ofcom自身的指导意见告诫不要过早评判这些规则。其2024年关于评估安全措施的文件指出，“安全措施的影响可能需要时间才能显现”。文件还表示，监管机构需要一个基准来衡量变化。按照这一标准评估，10月的报告存在三个缺口：

没有基准：Ofcom首次就身材羞辱和抑郁内容询问儿童是在2025年末，即规则生效之后。

没有平台数据：Ofcom收集的审核数据不涵盖这两个类别。

没有细分：该调查无法将年龄核验的效果与信息流的效果区分开来。也无法区分改变了做法的平台与未改变做法的平台。

平台能否识别身材羞辱和抑郁内容？

这两个类别都在很大程度上取决于语境。一条悲伤的帖子并不构成抑郁内容，除非它将绝望呈现为具有吸引力。同样，关于某人身体的评论可能是一个玩笑，也可能是骚扰行为。研究表明，自动化系统只能部分准确地识别此类内容：

语境：“我们的系统有时可能难以区分欺凌性评论和轻松的玩笑，”Meta在2021年表示。当时，其系统检测出了Facebook在用户举报之前删除的欺凌内容中的59.4%。

误报：2017年一项针对旨在识别宣扬饮食失调内容的分 classifier 的研究发现，其标记的帖子中只有约一半违反了规则。

幽默：2025年一项关于身材羞辱评论的研究发现，此类言论往往“伪装成幽默”。

视频：在2025年一项涉及1,500个视频的测试中，人工审核员比所有测试过的AI模型都更准确。这些模型在非英语内容上的表现也更差。

有迹象表明这项任务至少部分可控。YouTube已经限制向青少年重复推荐理想化某些体型特征的视频。Ofcom的守则通常也要求平台降低此类内容在信息流中的显著度，而非将其完全删除。因此，关于可见度的错误决定比错误删除的风险更低。

然而，风险是双向的。2025年1月，Meta表示将依靠用户举报来处理“较轻的政策违规”。守则生效后，Reddit在英国屏蔽了对专注于成瘾和性侵犯的支持社区的访问。如果平台错误地压制了与康复相关的内容，它们可能会伤害到这些规则旨在保护的儿童。

Ofcom尚未明确其期望的准确率水平。2025年6月，它提议大型平台在“技术可行”的情况下使用自动检测。据一份法律分析，它呼吁“在精确率和召回率之间取得适当平衡”，但并未设定数值标准。

执法的成本会是多少？

该报告未估算实施其建议的成本。Ofcom此前的数据提供了一些潜在费用的线索：

审核员：Ofcom估计一名审核员的年成本在38,430英镑至76,860英镑之间。

图像：Ofcom估计开发一款用于匹配已知非法图像的工具的成本在17,000英镑至339,000英镑之间。评估依赖语境的内容是一项更困难的任务。

视频：在2025年的测试中，人工审核每个视频的成本约为0.65美元，而最便宜的AI模型为0.02至0.04美元。

音频：语音聊天提出了更大的挑战。“语音频道基本上无法被审核，”一名Discord审核员在2019年的一项研究中告诉研究人员，因为对话通常不会被录音。

这些成本是否有利于大型平台仍是一个未解的问题。Ofcom最严格的措施仅适用于拥有超过700万英国用户或存在多种风险的服务，这保护了小型服务。不过，每项服务仍必须评估新的类别，而大型平台可以将分类器和审核员的成本分摊到多得多的用户身上。2024年，一个英国小型自行车论坛表示将关闭，因为合规成本“很可能达到数万”英镑。那还是在《法案》的非法内容规则下，而非儿童守则。

接下来会发生什么？国务大臣将决定是否修改法律。Ofcom计划在2027年1月之前发布更新的儿童风险评估。该报告未考虑政府已宣布的禁止16岁以下青少年使用社交媒体的计划。

报告未解答的问题

哪些平台改变了其信息流，Ofcom将于何时单独衡量这些变化的影响？

Ofcom将为识别身材羞辱和抑郁内容设定什么样的准确率标准，以及它将如何处理与康复相关的内容被错误标记的情况？

新要求对不同规模的服务将带来多少成本，尤其是那些托管视频和音频的服务？

Ofcom是否会收集这两个类别的平台数据？

另请阅读：

39%的英国儿童绕过年龄核验，主要是通过谎报年龄

[googlesitekit-end-of-content]

WP QUADS Content Ad Plugin v. 3.0.5.1

为你推荐

阅读Nikhil Pahwa的Reasoned：AI如何改变我们的世界

赞助一场MediaNama活动