OpenAI 发布社区安全报告并收紧青少年武器信息限制

OpenAI于2026年10月30日宣布发布一份关于暴力预防的社区安全报告，该报告将每六个月更新一次，同时推出新的保护措施，限制青少年获取与武器相关的信息，并收紧ChatGPT处理有关过往大规模袭击事件提问的方式。该公司表示，在2026年第三季度，其已向执法机构转介超过200次。

OpenAI承诺推出这份社区安全报告，内容涵盖暴力预防及其他社区安全问题，以及其保障措施的有效性。该公司表示，报告将说明其如何训练系统来检测、调查和应对社区安全问题，分享暴力相关伤害如何表现的匿名示例，重点介绍新的缓解措施和政策变化，并附上支持性数据。首份报告计划于2027年初发布，将覆盖2026年下半年，此后每六个月更新一次。

OpenAI表示，该报告旨在让人们清楚地了解其模型如何识别和应对有害行为、其在实践中看到的风险，以及其为应对这些风险所采取的步骤。

OpenAI表示，其安全工作包括将迫在眉睫的暴力威胁提请执法机构注意，这些转介在挫败暴力阴谋方面正在产生积极影响。该公司表示，其继续依靠心理健康和行为专家来评估疑难案例，并称AI公司在与执法机构、家庭成员、心理健康专业人士和政策制定者并肩发挥作用方面有着独特的角色。

OpenAI表示，其模型经过训练，不会提供有助于他人策划或实施暴力的指令。该公司正在对ChatGPT回答有关过往大规模袭击事件及实施者提问的方式施加额外限制，指示模型提供更少细节的信息，即使这些信息可从其他网络来源获取。收紧后的政策限制对过往大规模袭击事件的重构，包括所用武器和装备的细节及其获取方式，以及对伤害规模的详细比较——OpenAI称这类比较可能放大袭击者的恶名。无论用户年龄或提问原因如何，这些限制均适用。

人们仍然可以要求ChatGPT帮助他们了解这些事件、受害者和社区受到的影响，以及如何识别警示信号并预防未来的暴力。

2026年5月，该公司分享了ChatGPT如何利用早期警示信号的简短事实性摘要，在后续对话中更谨慎地作出回应。OpenAI表示，其正在此基础上继续推进，以便当近期对话显示出可能的暴力警示信号时，ChatGPT在分享可能被滥用的信息时会更加保守地回应，并且正在努力在预测某人未满18岁时应用这些更严格的限制，即使其对话没有显示出暴力意图的迹象。

OpenAI会封禁其认定违反暴力活动政策的账户。该公司表示，其正与心理健康和暴力预防专家合作，探索更多自动化方式以更早介入：当对话显示出某人正执迷于暴力或严重伤害他人的想法时，ChatGPT将能够自动结束对话；如果ChatGPT因此类原因多次结束对话，OpenAI可能会暂时暂停该账户。

为18岁以下用户新增保障措施

ChatGPT for Teens为18岁以下用户提供适龄的保障措施，OpenAI正在进一步限制青少年可获得的武器相关信息，即使问题看似无害。该公司的政策已禁止帮助任何人策划或实施暴力，并限制帮助青少年寻找或获取武器；此次扩展限制的是可能被滥用来助长暴力的武器和安防系统的实用信息，即使没有暴力意图的迹象。OpenAI表示，青少年仍然可以使用ChatGPT来帮助预防和缓和暴力、寻求支持，并与可信赖的成年人联系。

OpenAI表示，其已加强年龄预测系统，该系统分析行为模式等信号来估计用户可能未满或已满18岁，以便在人们使用ChatGPT时持续评估新信号，并在适当时将用户转入18岁以下体验。被错误归入18岁以下体验的用户可以通过OpenAI的年龄验证合作伙伴Persona确认自己已成年，并移除额外的青少年保护措施。

关联的家长控制账户包含安全警报，当经过专门培训的审核人员发现严重的自残担忧以及与饮食失调可能相关的行为时，可能会发送这些警报。2026年7月，OpenAI扩展了这些警报，如果青少年的账户因违反其暴力相关使用政策而被停用，将通知家长；该公司表示，其正在努力在因反复讨论暴力而暂停青少年账户时向家长推出通知。

这些措施建立在OpenAI于2026年早些时候推出的青少年安全功能之上。该公司于2026年8月18日推出ChatGPT for Teens，自动将估计未满18岁或自述年龄在13至17岁之间的用户置于基于其Model Spec中《18岁以下原则》的默认保障体验中。OpenAI于2026年1月20日开始在ChatGPT消费者套餐中推出年龄预测，利用行为信号和账户层面信号来估计某账户是否可能属于未满18岁的人；2026年8月25日的一份更新说明指出，该系统已开始在欧盟推出。

OpenAI表示，公告中详述的保障措施将在未来几周内开始逐步推出，并将继续完善这些措施。