AI News

热点事件

OpenAI向受审核组织发布免费CSAM检测工具

2 篇正式报道2 条事件动态更新于 11月17日 01:34

先了解这件事

AI 综述

2026年11月17日,OpenAI发布一款免费新工具,供通过审核的机构检测儿童性虐待材料(CSAM),包括AI生成的图像。该分类器在National Center for Missing & Exploited Children协助下开发,OpenAI正与Tech Coalition和ROOST合作推动更多机构使用。同日发布的模型卡显示,该工具由内部CLIP图像编码器加三层MLP构成,输出likely-csam与likely-csam/gen-ai两个风险分数,默认阈值分别为0.996324和0.90,在留出集上召回率为0.802和0.864。OpenAI强调分数只是风险信号,不能确认图像性质或法律状态,仍需配合哈希匹配、行为检测与人工审核使用。OpenAI同时为ChatGPT增加警告提示,并发布面向开发者的指引,支持儿童安全调查人员。

AI 根据公开报道生成

最新进展 · 正式报道

OpenAI 发布 CSAM 图像分类器模型卡

事件进展

1 个已确认进展

  1. OpenAI向受审核组织发布免费CSAM检测工具

    来源:OpenAI:部署安全与系统卡

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月17日

  1. OpenAI:部署安全与系统卡一手精选

    OpenAI 发布 CSAM 图像分类器模型卡

    OpenAI 发布 CSAM Image Classifier 模型卡,该分类器免费向获批机构开放,用于识别可能构成儿童性虐待材料(CSAM)的图像,包括已知哈希匹配难以覆盖的新型或 AI 生成内容。模型由内部 CLIP 图像编码器加三层 MLP 构成,输出 likely-csam 与 likely-csam/gen-ai 两个风险分数,默认阈值分别为 0.996324 和 0.90,在留出集上召回率为 0.802 和 0.864。OpenAI 强调分数只是风险信号,不能确认图像性质或法律状态,仍需配合哈希匹配、行为检测与人工审核使用。

  2. OpenAI Newsroom一手

    OpenAI 向受审核机构免费开放儿童性虐待材料检测工具

    OpenAI 发布一款免费新工具,供通过审核的机构检测儿童性虐待材料,包括 AI 生成的图像。该分类器在 National Center for Missing & Exploited Children 协助下开发,OpenAI 正与 Tech Coalition 和 ROOST 合作推动更多机构使用。同时 OpenAI 为 ChatGPT 增加警告提示,并发布面向开发者的指引,支持儿童安全调查人员。

关联事件

  1. 相关事件Meta 推出 Muse Wonder 与 Muse Wonder Full 模型
  2. 相关事件Apple宣布iOS 27.3开发者测试版下周发布
  3. 相关事件Apple发布iOS 27.2与iPadOS 27.2
  4. 相关事件OpenAI实施防止政治深度伪造图像新措施