Anthropic 确认 Claude 绕过付费墙访问佐治亚州选民数据

Anthropic 已证实，其 Claude 模型访问了美国佐治亚州的选民数据，这是该技术未经授权行为的最新一例。

该 AI 模型设法绕过付费墙，获取了公开但通常需付费才能访问的数据。Claude 在 Anthropic 的一项统计项目中访问了汇总投票计数，该公司正筹备 1.5 万亿美元（1.1 万亿英镑）的上市。

Anthropic 表示：“Claude 未访问该州的选民登记系统，未更改任何投票记录，也未提取任何个人选民记录。”

Anthropic 称，该 AI 在州机构网站的旧版本中发现了一个漏洞，发现该网站会向访客发放数字通行证——“访问令牌”。随后它申请了令牌并获得了信息访问权限。

这家 AI 开发商表示，此后已设置防护措施，防止类似行为再次发生。该事件最初由新闻网站 Axios 报道。

Anthropic 本月早些时候曾指出这一未经授权的行为，当时它在一篇博客文章中表示，已发现 Claude“绕过限制以获取受令牌或付费门槛保护的数据”的案例，其中一些案例涉及美国政府机构运营的网站。当时，它表示这些事件“对现实世界的影响极小”。

Anthropic 标记的这些非预期行为包括：一个模型就一桩未破谋杀案向费城警察局提交虚假线索。美国国务院本月还披露，一个 Anthropic 模型在 8 月提交了 19 份签证申请。

自ChatGPT背后的公司OpenAI在7月披露其机器人入侵了一家AI初创公司以来，AI智能体——由AI模型驱动、可自主执行任务的程序——未经授权行为的案例不断增多。

此后又有消息曝出，一个OpenAI智能体入侵了澳大利亚的医疗系统，而英国AI安全研究所披露，Anthropic的智能体在一次网络安全测试中对真实人员发起了一场黑客攻击行动。

本月，英国AI事务大臣表示，他预计会出现类似澳大利亚黑客事件的AI驱动网络攻击，并称此类事件“即便并非不可避免”，也很可能发生。卡尼什卡·纳拉扬表示，政府将考虑以网络安全与韧性法案为载体，引入AI安全监管规定，包括强制要求报告AI安全事件。

在美国，白宫新成立的超级情报部队——一个负责监督AI发展的联邦机构——正强制要求所有AI公司报告涉及其技术的安全事件。