OpenAI 将限制 ChatGPT 向青少年提供武器与安防系统细节
OpenAI will block ChatGPT from giving teens practical weapons and security-system details, even when questions look harmless.
AI 导读
OpenAI 将阻止 ChatGPT 向青少年提供实用武器和安防系统的细节，即使问题看起来无害。对所有用户，ChatGPT 可在判断某人似乎沉迷暴力时自动结束对话，多次出现这种情况可能让 OpenAI 临时暂停账号，并正在构建在青少年账号被暂停时通知家长的提醒。所有用户获取过往大规模袭击细节（包括所用武器及获取方式）也会减少。由于青少年限制依赖识别未成年人，OpenAI 称已加强年龄预测，将估计未满 18 岁的用户转入青少年体验；但未公布年龄估计或暴力沉迷检测的准确率数据。
推荐理由
AI 评分 67
原文列出 OpenAI 对青少年账号的多项限制与自动结束对话机制，也点出年龄识别和暴力倾向检测缺少准确率数据。
主题
正文 · AI 翻译
OpenAI 将阻止 ChatGPT 向青少年提供实用武器和安防系统的细节，即使问题看起来无害。
对所有用户，当某人似乎沉迷于暴力时，ChatGPT 将能够自动结束对话。
多次出现此类结束情况可能导致 OpenAI 临时暂停该账号，并且 OpenAI 正在构建提醒功能，在青少年的账号被暂停时通知家长。
所有用户获取过往大规模袭击细节（包括所用武器及袭击者如何获得这些武器）也会减少。
由于青少年限制依赖于识别未成年人，OpenAI 表示已加强年龄预测，将估计未满 18 岁的用户转入青少年体验。
然而，OpenAI 未公布其年龄估计或暴力沉迷检测的准确率数据，使得错误拒绝和漏检威胁的情况无法衡量。