AI 热点

AWS 发布 I/Q、I/R 与 Isabelle Assistant,连接 AI 智能体和形式化证明检查

Amazon Science更新于 11月19日 03:54

Mathematical proof, powered by AI. And no hallucinations!

AI 导读

AWS 在 AutoCorrode 验证套件中公开 I/Q、I/R 和 Isabelle Assistant,让 AI 智能体可与 Isabelle 会话直接交互并接受自动证明检查。I/Q 支持智能体接管会话补写或评估形式化内容,I/R 可在用户继续工作的同时开发证明,Isabelle Assistant 则提供可观察和修改会话的聊天窗口。文中展示了 Claude Opus 4.6 自动生成并由 Isabelle 检查的数学证明。

推荐理由

AI 评分 59

工具将证明生成与形式化检查交错进行,为降低数学智能体幻觉提供了可迁移的工程路径。

主题

标签

正文 · AI 翻译

每一天都有新的证据彰显人工智能的惊人力量。数学领域已经取得了引人注目的进展:AI 模型正在解决数学奥林匹克竞赛中的难题,甚至攻克了一些重大的开放研究问题。但 AI 智能体向来以凭空捏造内容,也就是产生“幻觉”而闻名:难道我们不必仔细检查它们的解答吗?事实上,计算机可以替我们检查智能体给出的证明;更妙的是,证明检查可以与证明生成交替进行,使其始终沿着正确方向推进。为了接受检查,证明必须以某种逻辑形式体系来书写,也就是一种能够表达数学推理的精确语言。证明助理是专门用于编写和检查形式化证明的应用程序。其中包括许多数学家青睐的 Lean;AWS 用来形式化验证高性能密码学代码(包括后量子密码学代码)的 HOL Light;以及 AWS 用来验证 Nitro Isolation Engine 的 Isabelle。它们最初是为了帮助人类用户编写证明而构建的,但如今,“用户”将是 AI 智能体。大多数证明助理都适合这项任务。本文将重点介绍 Isabelle。为了生成形式化证明,我们需要一种让 AI 智能体和证明助理相互通信的方法。幸运的是,我们有模型上下文协议(MCP),所有主流 AI 智能体都支持这一协议。从概念上讲,MCP 就是一条连接智能体与工具(这里指证明助理)的线路,而工具可能需要经过修改才能接受这种连接。一些证明助理(如 HOL Light)提供简单的命令行界面,有时称为 REPL(即“读取—求值—输出”循环):用户输入命令,HOL Light 作出回应。将智能体连接到 REPL 很容易。但大多数证明助理都提供复杂的用户界面,例如适用于 Microsoft VS Code 的 Lean 扩展。 这对人类用户来说很棒,但 AI 智能体需要的是简单、直接的方式。因此,我们很自豪地宣布推出以下工具,它们已在 AutoCorrode 验证套件中公开提供:I/Q:它让 AI 智能体能够与在您的计算机上运行的实时 Isabelle 会话通信。您可以借此暂时将证明助理的控制权交给 AI,让它补充一些形式化内容,或者评估上下文并提供建议。I/R:它让智能体能够在用户继续使用证明助理工作的同时,开发证明或其他形式化内容。智能体仍会直接与证明助理“交谈”,以确认其证明是否有效,但不会像 I/Q 那样接管控制权。Isabelle Assistant:它由 I/Q 提供支持,为 Isabelle 用户提供一个与 AI 智能体交流的聊天窗口;该智能体可以观察并修改用户的会话,开发或修正证明。它的功能不及完整的 I/Q 和 I/R 软件包强大,但开箱即用,可以在一个便捷的窗口中运行。为了了解 AI 解决数学问题的效果,让我们看看一些在 Isabelle Assistant 帮助下自动完成的著名示例。二的平方根是无理数 古希腊人早已知道,二的平方根无法写成分数。假设 √2 = a/b 是一个最简分数。那么 2b2 = a2,这意味着 a 是偶数。但这样一来,对于某个 k,就有 a = 2k。于是 2b2 = 4k2,因此 b2 = 2k2,现在 b 也是偶数。但在这种情况下,a/b 就不是最简分数。根据这一矛盾,我们得出结论:不存在这样的分数。下面是同一个证明,由 Claude Opus 4.6 为 Isabelle 形式化:与所有证明助理一样,这种语言的设计目标是能够由计算机检查。但它也被设计成便于人类阅读。 下面是一份简要指南:assume 引入一个假设;have 和 show 声明某个公式为真;obtain 声明某些值存在;by 给出某项声明的论证依据。在证明我们承诺要证明的事实时,我们使用 show;在证明推导过程中所需的事实时,我们使用 have。这些论证依据会调用证明方法,而证明方法通常会引用现有定理,不过我们不必深入了解这些细节。现在,我们可以阅读代码并理解其中的数学内容。首先,我们假设 √2 属于有理数集合 ℚ。然后得到整数 a 和 b,等等;请注意,coprime 语句表示它的两个操作数没有公因数。证明按照上文概述的思路继续推进,最终导出矛盾。这个由 AI 生成的证明非常符合惯用写法,令人惊讶,不过它比严格意义上所需的更加详细。寻找 N 个连续合数 该命题称,对于每个整数 N > 0,都存在一段由 N 个连续整数组成的区间,其中每个整数都是合数,也就是说,它们都不是质数。因此,尽管质数有无穷多个,但它们之间的间隔会越来越大。这个例子没有那么广为人知,所以在将它交给 Claude 时,我们还向它提供了以下证明:取 N!(N 的阶乘,即从 1 到 N 的所有整数之积)。N! + 2 必然是偶数,N! + 3 必然能被 3 整除,依此类推,直到 N! + N。希望您能看出这个“证明”错在哪里。当我把它提供给 Claude 时,它给出了三个事实。第一个事实指出,如果 k > 1 是 n > 0 的一个因数,那么 n + k 不是质数。第二个事实指出,如果 2 ≤ k ≤ N + 1,那么 (N + 1)! + k 不是质数。这实际上就是我们的结论。但第三个事实才是以正确形式表述的定理。Claude 注意到,我们的证明只能得到 N - 1 个连续整数,并作出了必要的修正。 我们跳过引理,直接来看主定理:定理陈述(在 shows 之后)采用符号形式,但它表达的是,存在某个 m,使得对于所有 i,m + i 都是合数。正弦函数的定积分 现在来看一个稍难一点的内容:微积分。让我们考察函数 sin x 在区间 [0, π] 上的积分。(对于习惯使用角度制的读者,π 对应 180°。)该积分就是下方的阴影面积,其值等于 2。用数学符号表示,该积分写作:但有了 AI 智能体,您无需知道如何在自己喜欢的证明助理中编写这样的代码。我们只要求提供“一个涉及微积分、简洁明了的示例”,其实用普通英语描述这个积分也可以。Claude 生成了以下内容(甚至包括注释):您或许还记得微积分课——对大多数人而言,那是他们一生中最快乐的时光——计算这个积分需要求出正弦函数的一个原函数(不妨记作 ƒ),然后计算 ƒ(π) - ƒ(0)。这一事实称为微积分基本定理。“原函数”是指其导数为 sin x 的函数,这个函数恰好是 -cos x。上面的 Isabelle 证明包含了对 -cos x 的导数为 sin x 的证明。计算过程比必要的稍长,但至少没有错误,这得益于我们交替进行生成和检查的方法。更困难的项目 这些示例都很简单。优秀的智能体仍然可以自动形式化困难得多的问题。为了处理最棘手的问题,我们需要 I/Q 和 I/R。通过 I/Q,我们可以将终端窗口中运行的智能体连接到 Isabelle 会话,让它直接编辑该会话。 而通过 I/R,它还可以创建一个静默且不可见地运行的 Isabelle 子进程,用于证明定理并执行其他形式化任务。由于它不会改动文档,我们可以同时继续工作。AI 智能体成为为我们工作的伙伴:它可以向我们提出建议,也会接受我们的提示。这是一种新型团队协作方式,我们仍需探索如何让它发挥最佳效果。最困难的问题依然需要人类思考,但思考是一项艰苦的工作,人也会疲倦。我们可以指挥智能体执行那些简单直接却漫长乏味的任务——例如重构一套虽能运行却很混乱的证明开发,或研究执行轨迹以诊断问题——从而保持精力充沛,在必要时作出关键决策。I/R 可以独立运行:我们可以自行设置它,并让它长时间自主工作。但关键的创新在于,作为通用问题求解器运行的 I/Q 本身可以调用 I/R 来证明定理。如今触手可及的这种能力令人难以置信。后记 Claude 不仅生成了本文中的所有证明,还选择了其中大多数示例。这些证明保留了 Claude 最初生成时的样子,看起来非常自然。诚然,计算机生成的材料经常包含人类会尽量避免的复杂之处和弯路。但这些内容可以在润色阶段移除,而这一阶段也可以部分自动化。尽管上面给出的证明本质上是一种计算机代码,但至少具有一定的可读性。几乎每隔一行就有一个数学断言,因此您始终知道当前在做什么。使用 AI 时,我们担心它产生幻觉;在这里,我们通过自动证明检查来防止这种情况。不过,我们也确保人们能够检查这些证明。 这使 AI 智能体和人类用户能够协同工作,而这是解决棘手问题的最佳方式。AI 驱动的证明已经成为我们在 AWS 日常工作的一部分。我们希望在不牺牲任何一方的前提下,为客户提供最佳性能和最高可靠性。在努力实现这一目标的过程中,会出现规模庞大且技术复杂的问题,而 AI 智能体能够应对这些问题。它们可以自动执行许多任务;当无法独立完成时,它们可以说明可选方案,暂停下来让人类用户修复某些问题或提供建议,然后继续工作。与人们的担忧相反,这项技术不会取代我们,而是会协助我们。致谢:Isabelle Assistant 的作者 Dominic Mulligan

来源

Amazon Science