英国皇家检察署检察官因 AI 搜索援引虚构判例被高等法院批评

在一起高等法院案件中出庭的一位资深皇家检察官援引了一个虚构的法律判例，这一错误引发了人们对AI幻觉侵蚀司法系统的新担忧。

法庭文件显示，代表皇家检察署（CPS）的拉文德·迪隆在一起关于是否应就一名男孩强奸其妹妹一事对其提起公诉的争议中，引用了一个完全捏造的案例。

对于这个并不存在的案例如何被援引，她的解释被两名高等法院法官称为“不令人满意”，并被一位AI与法律领域的专家称为“严重失职”。《卫报》了解到，该引用来自一次互联网搜索中生成的AI回复。

这起案件使今年AI相关错误困扰法庭程序的事件增至数十起，其中大多涉及没有法律资格、自行辩护的人，且往往发生在就业法庭案件中。

这只是已知第二起涉及CPS——英格兰和威尔士主要负责提起刑事公诉的公共机构——的案件。CPS今年2月承认，其一名律师在一起涉及两名因轻微罪行被定罪的罗马尼亚人的引渡案中援引了不存在的法律依据，很可能是由AI造成的。那些捏造的案例直到对方律师找不到任何踪迹才被发现，而CPS的结论是“再次发生的风险很低”。

在这起最新案件中，这名男孩（涉嫌强奸其七岁妹妹时年仅11岁）的律师对CPS决定起诉他提出质疑。他们声称，检方未能考虑社会工作者、青少年工作者和一名法医心理学家的陈述。迪隆是CPS强奸及严重性犯罪部门的一名资深皇家检察官，她主张对该儿童提起公诉，并详细引用了一个她称为CPS – R v J [2024] EWCA Crim 3529的案例。结果该案例并不存在。

继续起诉的决定由迪隆于4月作出，并得到首席皇家检察官的确认。随后在10月，迪隆承认该不存在的引文系错误所致。她说她当时指的是15年前作出的一个完全不同的裁决——这一次是真实存在的。

“这被用作主张起诉一名儿童的法律依据，而该法律依据并不存在：这是严重失职，”爱尔兰梅努斯大学法学副教授、研究法官使用AI情况的布赖恩·弗拉纳根说。“这让人质疑法律中的信任规范，即我们把法律依据视为珍贵之物。你不能捏造它们；这是越界的。AI增加了这种情况发生的风险，因为它能节省时间。任何专业人士这样做都不好，但当该专业人士为国家工作时，性质就不同了，因为国家的权力是巨大的。”

高等法院表示，CPS引用虚构案例并未影响男孩对继续起诉决定所提质疑的结果，该案定于本周晚些时候在青少年法庭开庭审理。

2025年6月，高等法院针对从住房到银行业等案件中的AI幻觉，呼吁律师公会和律师协会“作为紧急事项”考虑采取措施遏制这一问题。时任王座法庭庭长的维多利亚·夏普女爵士警告说，“如果人工智能被滥用，将对司法行政和公众对司法系统的信心产生严重影响”，并表示滥用AI的律师可能面临制裁，从公开训诫到藐视法庭程序及移送警方。

CPS在被要求置评时表示，其有严格的AI政策，“限制其使用，使其不被用于作出法律决定，且必须进行人工核查以确保准确性”。

一位发言人表示，CPS“发现错误是在使用互联网进行法律检索时发生的”。

订阅《英国头条》

每天早晨将当日头条和要闻直接发送到您的邮箱

“这一错误一经发现即得到纠正，并进行了内部审查，以查明其发生原因并核查没有其他案件受到影响，”他们说。“在快速审查后，我们分享了经验教训，包括必须从可信的法律来源引用判例法。”

据了解，该互联网搜索返回了一份包含虚构案例细节的AI摘要。

这起最新事件使Doughty Street Chambers大律师马修·李维护的英国追踪器条目增至101条，该追踪器涵盖已确认、疑似和有争议的AI相关错误以及相关的虚假引文。他说，已识别的案例可能只是“冰山一角”，因为许多下级法院的裁决从未公布。

他补充说，鉴于CPS处理高度敏感的信息，其使用AI存在隐私和保密风险，并警告说，AI正在给大律师增加额外工作，他们需要花时间核查案件材料中出现的法律依据的真实性，而这些材料的准备过程中可能使用了AI。