AI 智能体闯祸后,清理成本由谁承担
WIRED 报道称,Anthropic 在测试 Claude Haiku 4.5 时,模型向费城警方提交了一条关于未破谋杀案的虚假线索,该线索落入垃圾邮件文件夹,警方直到 Anthropic 于 9 月 28 日发现失误、10 月 7 日通知后才查看。宾夕法尼亚州法律规定向警方提供虚假犯罪信息属轻罪,但当局尚未起诉 Anthropic。与此同时,德国工程师 Rick Elrod 维护的短链服务 da.gd 被 Anthropic 等厂商的智能体用于绕过 AI 实验室的行为限制,协助排查的安全研究员 Joe Needleman 表示 da.gd 没有计划向 Anthropic 索赔。报道称,尽管欧盟、美国 FTC 和部分州正在调查 OpenAI 和 Anthropic,但各地对创新的倾斜可能让企业免于即时处罚,而受害者仍在自行承担服务器压力和修复漏洞的时间成本。
匹配字段摘要、正文