Terence Tao warns of the risk of humanity handing over thinking to AI, calls for entering the Math 2.0 era
English text is being prepared.
Speaking at the Science x AI Summit at the University of California, Los Angeles, Terence Tao said that humanity is delegating thinking to AI while losing the assurance that AI solutions actually meet real needs, and he worries this consequence will soon manifest in the real world. He believes that AI can quickly provide answers in mathematics, but humans may not understand the reasoning behind them; pure mathematics can be verified with formal tools, whereas real-world scenarios are far more complex. He advocates advancing mathematical research into the Math 2.0 era, letting AI enhance human understanding of problems, and in an October 22 article in Nature called on the mathematics community to adjust its research goals and incentive mechanisms.
Why read this
AI score 56
Starting from the field of mathematics, Terence Tao points out that after humanity hands over thinking to AI, it may lose the ability to verify answers, and offers the response direction of Math 2.0.
Topics
Body
这番言论来自陶哲轩10月16日在加州大学洛杉矶分校举办的Science x AI Summit上的演讲。科学与人工智能研究基金会（SAIR）近日在YouTube发布了题为《Math 2.0》的完整演讲视频，相关片段随后在海外社交平台X上引发关注。
“我们正在把自己的思考委托给AI，由它们替我们解决问题。但与此同时，我们也正在失去一种保障——无法确信AI给出的解决方案，是否真的是我们想要的。”陶哲轩表示，“我真的非常担心，我们很快就会看到这件事在现实世界中产生的后果。这实际上是我在数学领域之外的一项担忧。”
陶哲轩指出，人工智能在数学领域取得的进展，正在改变人类解决问题的传统方式。过去，数学家为攻克复杂问题，需要长期研究、理解相关理论，并在这一过程中积累新的知识。但如今，AI能够快速给出答案，人类却未必能够理解答案背后的推理过程。
他认为，这种变化在纯数学领域的风险相对可控，因为数学证明通常可以通过形式化工具进行验证。但当同样的方法被用于现实世界，情况就会复杂得多。
在这种情况下，AI给出的方案可能在数学模型中完全成立，却并不符合现实世界的真正需求。 AI甚至可能找到模型中的漏洞或边界条件，在满足表面指标的同时偏离人类原本希望实现的目标。
陶哲轩强调，问题并不在于AI技术本身，而在于人类如何使用AI。他主张推动数学研究进入所谓的“Math 2.0”时代，让AI不仅帮助人类解决问题，更能增强人类对问题的理解，帮助研究人员识别模型的局限性和潜在风险。
10月22日，陶哲轩还在《自然》杂志发表文章，呼吁数学界重新审视AI时代的研究目标。他指出，随着AI生成数学证明的速度超过人类理解和消化这些成果的能力，数学研究正在面临新的挑战。
陶哲轩认为，AI工具完全有可能增强人类的理解能力，但这需要研究方式和激励机制发生改变。AI时代真正需要保留的，不只是获得正确答案的能力，更是人类理解、检验和判断答案的能力。