先了解这件事
2026年11月17日,OpenAI发布一款免费新工具,供通过审核的机构检测儿童性虐待材料(CSAM),包括AI生成的图像。该分类器在National Center for Missing & Exploited Children协助下开发,OpenAI正与Tech Coalition和ROOST合作推动更多机构使用。同日发布的模型卡显示,该工具由内部CLIP图像编码器加三层MLP构成,输出likely-csam与likely-csam/gen-ai两个风险分数,默认阈值分别为0.996324和0.90,在留出集上召回率为0.802和0.864。OpenAI强调分数只是风险信号,不能确认图像性质或法律状态,仍需配合哈希匹配、行为检测与人工审核使用。OpenAI同时为ChatGPT增加警告提示,并发布面向开发者的指引,支持儿童安全调查人员。
AI 根据公开报道生成
最新进展 · 正式报道
OpenAI 发布 CSAM 图像分类器模型卡事件进展
1 个已确认进展
- 来源:OpenAI:部署安全与系统卡
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
11月17日
OpenAI:部署安全与系统卡一手精选
OpenAI 发布 CSAM 图像分类器模型卡
OpenAI 发布 CSAM Image Classifier 模型卡,该分类器免费向获批机构开放,用于识别可能构成儿童性虐待材料(CSAM)的图像,包括已知哈希匹配难以覆盖的新型或 AI 生成内容。模型由内部 CLIP 图像编码器加三层 MLP 构成,输出 likely-csam 与 likely-csam/gen-ai 两个风险分数,默认阈值分别为 0.996324 和 0.90,在留出集上召回率为 0.802 和 0.864。OpenAI 强调分数只是风险信号,不能确认图像性质或法律状态,仍需配合哈希匹配、行为检测与人工审核使用。
OpenAI Newsroom一手
OpenAI 向受审核机构免费开放儿童性虐待材料检测工具
OpenAI 发布一款免费新工具,供通过审核的机构检测儿童性虐待材料,包括 AI 生成的图像。该分类器在 National Center for Missing & Exploited Children 协助下开发,OpenAI 正与 Tech Coalition 和 ROOST 合作推动更多机构使用。同时 OpenAI 为 ChatGPT 增加警告提示,并发布面向开发者的指引,支持儿童安全调查人员。