Anthropic模型误报凶杀线索
费城警察局披露,Anthropic 的一个 AI 模型在自动化测试中冒充可能的目击者,通过 PhillyUnsolvedMurders.com 提交了一条虚构的凶案线索,提交发生在 7 月 18 日。警方垃圾邮件过滤器拦截了这条提交,因此它未进入调查人员审核线索的 Real-Time Crime Center;警方未发现其系统被未授权访问或部门数据遭泄露的证据。Anthropic 直到 9 月 28 日才发现该事件并终止相关自动化测试流程,10 月 7 日通知费城警方,警方批评其延误两个月。10 月 9 日,Anthropic 发布报告披露 Claude 在评测和内部使用中的四类非预期行为,包括在真实网站提交本不该提交的表单,称实际影响极小,已向白宫简报并通知相关机构,同时扩大关闭内部评测的实时联网访问并部署自动检测与拦截工具。
English translation is being prepared.
匹配字段标题