AI News

Simons Foundation, together with OpenAI and Anthropic, jointly pledges $15 million to support mathematicians in verifying AI results

cnBetaUpdated Nov 10 15:05

English text is being prepared.

AI summary

On October 15, the Simons Foundation announced a joint commitment with OpenAI and Anthropic of $15 million in funding and resources to support mathematicians in verifying, understanding, and extending AI results. OpenAI and Anthropic each contributed $5 million and respectively provided model compute and Claude access; the funding is managed by the Simons Foundation for workshops, conferences, and other activities. Previously, OpenAI publicly released 722 mathematical manuscripts from an internal unreleased model, then the next day retracted 3 and revised 14, one of which had a collapsed theorem premise due to an incorrect sign; about 42% of the main results came with Lean formalization materials. The Association for Human Mathematics (AHM) criticized the practice of dumping hundreds of documents at once, while Terence Tao noted that mathematics is moving from proof scarcity to proof abundance, and human capacity for verification and understanding may not keep pace.

Why read this

AI score 66

The original text places the funding amount, the funders, and the mathematics community's criticism that AI proofs are hard to verify side by side, so readers can clearly see the specific gap this money is meant to address.

Topics

Tags

Body

10月15日,Simons基金会宣布,与OpenAI、Anthropic共同承诺1500万美元的资金及资源,支持数学家检验、理解并拓展AI成果。

OpenAI出资500万美元,另外提供模型和算力,希望将AI的进展转化为更深入的人类理解和新发现。

Anthropic承诺的500万美元支持,包含资金、算力和Claude使用权限。它也坦言:在数学乃至更广泛的科学研究中用好AI,需要时间、精力和资源。

相关资助由Simons基金会管理,用于工作坊、会议等活动。

近几个月,OpenAI在数学界接连掀起“剧震”:

先公布10项涉及长期开放问题的研究成果,再宣布给出千禧年大奖难题——纳维–斯托克斯问题的证明,随后又集中发布数百篇数学手稿。

成果如潮水般涌来,人类有点“消化不良”了。

陶哲轩一针见血地指出,数学正从“证明稀缺”走向“证明充裕”,但人类的验证与理解能力未必跟得上。

陶哲轩在讲稿中提出“证明充裕的时代”。

MIT工程教育副院长Justin Solomon在播客节目里坦言,OpenAI那篇纳维–斯托克斯证明,自己读过开头几页,就读不下去了。

Solomon在《Odd Lots》播客中坦言,面对OpenAI给出的纳维–斯托克斯证明,自己连开头几页都没能读下去。

722篇手稿

从“写出来”到“读得懂”

10月6日,OpenAI在GitHub公开这批来自内部未发布模型的成果,次日就在更新日志里留下了撤回3篇、修订14篇的尴尬记录。

10月7日更新日志:撤回3篇手稿,修订另外14篇。

问题出在一处符号:

按照论文约定本该取-1,AI在证明中却按+1计算。纠正后原以为归零的计数并不为零,所用定理的前提直接崩塌。

另外两篇手稿用了同一套方法,也被一并撤回,其中一篇研究的是K3曲面乘积的有理霍奇猜想。

这批成果来自模型对约4000道问题的尝试与筛选。数量惊人,验证却还没跟上:

约42%的主要结果配有Lean形式化材料,可供计算机检查推理过程。部分尚未形式化的结果,仍可能存在问题。

就算证明本身没问题,研究也没有结束。

光知道算对了还不够,还要明白是怎样算对的:关键方法是什么?适用条件能否放宽?能不能用它解决其他问题?

做数学研究,作者得看懂自己的证明,也得为它负责。

所以,找出错误只是一步。

更关键的是把里面有用的方法讲清楚,让别人学得会、用得上,能接着往下研究。

10月7日,人类数学协会AHM发表严厉声明,批评这种一次性倾倒七百多个文件的行为是在“展示权力”,甚至呼吁数学家停止与OpenAI合作。

陶哲轩博客刊登的AHM客座声明,保留工作组署名。

这份由协会传播工作组署名的声明,也被陶哲轩作为客座文章发在了自己的博客上。

康奈尔大学数学家Alex Townsend的建议很直接:

OpenAI应该先发布经过Lean验证的手稿,其他材料单独放出来,请大家帮忙检查,别把验证过的和还没验证的混在一起。

MIT高级研究科学家Andrew Sutherland肯定了OpenAI迅速纠错的态度,但也表示,想要重新赢得信任,还需要更多工作。

普林斯顿高等研究院的顾问组(AGMAI)早在9月底就提出:AI实验室不能只顾着发布成果,也要出钱、出资源,支持人类把这些成果读懂。

OpenAI和Anthropic这次联手提供支持,正好回应了学术界此前的诉求。

这1500万美元究竟该怎么花?

AGMAI此前也建议,可以围绕复杂证明办暑期学校,或组织长期合作的研究小组,让大家有时间和资源把AI写的长篇证明一步步拆开、讲明白。

Simons基金会主席David Spergel也强调:

这些讨论必须由数学共同体主导。

David Spergel在公告里强调,数学不应只被看作证明和定理的集合,更是由人类好奇心推动的集体理解。

陶哲轩的Math 2.0示意图,将“人类理解”置于中心。

而这场讨论,也已经伸向数学之外。

Simons公告明确提到,OpenAI和Anthropic提供的工具和算力,还会用到数学之外的基础科学研究中。

谁来查错、谁能看懂、出了问题谁负责,其他学科也得提前想一想。

近日,理论物理测试里就出现了一个反转:

GPT-6 Astra被判错,专家复核后却发现,部分参考答案本身有错。修正后,Astra在TheoPhysEval的50道研究级题目中答对49道,正确率达到98%。

再把复杂推导讲清楚,让别人看得懂、用得上,这些成果才能成为下一次发现的起点。

参考资料:

Source

cnBeta