我们的心智并不适合应对 AI

控制论之父诺伯特·维纳曾说：“每个时代的思想都反映在其技术之中。”在过去的一个世纪里，我们的思想反映在计算机中，包括AI行业人士的计算机。谷歌的戴密斯·哈萨比斯称大脑是“对图灵机的生物学近似”。埃隆·马斯克说得更直白，宣称“人们就应该把大脑看作一台生物计算机。”（马斯克的大脑常常让我担忧。）

但人类比简单地与计算机类比所承认的要复杂得多——也远比大多数AI行业人士似乎认识到的要复杂得多。而随着他们的产品日益深入地渗透进文化，这有助于解释他们为何把事情搞得如此一团糟。事实证明，AI有点像认知版的热狗：它在当下吸引我们，却损害了我们历经数千年进化而来的认知系统的健康与可持续性。

要理解这个问题，我们需要一点神经科学，以及人类进化史的全部。

大脑是计算机这一观念可追溯到艾伦·图灵。它把思维设定为一个三步过程，在功能上相当于一种算法：我们的心智从世界中接收信息（输入），以某种方式对其进行处理（计算），然后实施行为（输出）。感知导致认知，认知又导致行动。用稍微更详尽的话说，它看起来像下面这张图：

在许多方面，这个模型都富有成效。技术专家们把我们的头脑想象为计算机，将实际的计算机从简单的加法机推进到人工神经网络和生成式AI，寻求对我们自身心智越来越精细的镜像。

但这个镜像的形象，虽然并非完全错误，却是扭曲而有限的。约翰·冯·诺依曼是计算机和计算机科学发展的奠基性人物，他怀疑计算模型不可能捕捉到“人类神经系统的异常复杂性”。也就是说，我们的神经系统进化出来，是为了帮助我们在这个我们称之为“世界”的庞大生态系统中导航。我们对世界采取行动，以对其施加控制（尽我们所能）。

计算方法着眼于我们心智的最终产物，并试图“逆向工程”它们如何运作。但与其倒推，我们或许可以转而考察进化史的漫长弧线，从零开始构建我们的模型。这是蒙特利尔大学神经科学家保罗·西塞克所青睐的方法，他耐心地构建了一个跨越数百万年的大脑和神经系统发育的生物学模型。

西塞克主张，与其说我们的大脑是信息处理器，不如将其更好地理解为反馈控制系统。我们的身体不只是接收输入，它们还会采取行动来调整输入是什么，这取决于有哪些可用的选项。正如西塞克本人急于指出的，这并非新观点——哲学家约翰·杜威在20世纪之交写道，心智是一个回路，“更确切地说是机体的而非反射的，因为运动反应决定刺激，正如感官刺激决定运动一样真实。”

这两种方法究竟有何区别？

下面是棒球中的一个经典例子：在外野接高飞球。根据计算模型，解决这个问题必定涉及某种复杂而潜意识的心理演算，外野手在其中估算球的速度、计算重力的影响，并进行无数其他数学程序来“计算”球将飞向何处。

相比之下，反馈控制方法提出了一种简单的启发式——本质上就是“让球保持在你的视野中的同一位置，然后移动以维持这种状况”。我们采取行动来调整我们接收到的刺激。

这不仅更符合任何打过中外野的人的经验，还避免了将心理过程与身体运动割裂开来，也避免了调用计算模型所要求的复杂计算。人类比那更具动态性。

这种方法也恰好对应了大脑随时间进化而来的生物架构。从古代鱼类到两栖动物，到哺乳动物，到灵长类动物，最终到现代人类，我们观察到的是，新的行为随着新的环境可能性而出现。例如，当恐龙灭绝时，这意味着一些夜行动物可以在白天四处活动，被吃掉的危险更小，从而催生了各种新能力。西塞克观察到，我们神经系统的历史是一部“将控制不断向世界中延伸得越来越远”的历史。（他即将出版的书将更详细地探讨这一切，是的，我希望这篇文章能对他完成此书施加微妙的压力。）

这就引出了一个与上图截然不同的替代性图示。我们既可以绘制一张行为与能力随时间演化的地图，也可以将大脑的具体物理组成部分叠加到这些能力之上，就像这样：

与计算模型从左到右的推进方式不同，这个模型应被视为在进化时间中自上而下地展开。例如，很久以前，随着脊椎动物活动能力的增强，拥有专门的探索系统变得有用——比如利用地标，或在夜间导航。这促成了我们今天所称的海马体的发展。重要的是，这也让我们的祖先记住了从一个地点匆匆赶往另一个地点的重要时刻，从而发展出对过往经历的“情景记忆”。

用心的计算模型，我们根本无法做到任何类似的事情；它根本无法与可观测的神经科学结构对应起来。更重要的是，它掩盖了大脑所做的很多事情都涉及控制生物体在其环境中的互动这一事实。因此，西塞克建议，我们需要彻底转变用来理解大脑与行为之间关系的范式，从算法式的输入—输出转向更具动态性的反馈系统。

到目前为止，我们关于人类发展的叙述主要围绕来自物理世界的反馈。但人类最重要的“反馈回路”之一源于我们深刻的社会性倾向。事实证明，计算模型也没有很好地解释这一点——AI产业同样如此。我们花了数千年时间建立制度和规范，以便相互学习和交流，而在不到十年的时间里，大型科技公司一直在系统性地拆解它们。

怎么拆解的？同样，我们需要一些历史背景。

大约在数十万年前的某个时候，我们的远祖做了一件不可思议的事：他们学会了相互模仿。模仿手势和身体动作使我们能够传承成功的做法——比如打制石器——并通过共同的仪式性行为协调更复杂的活动，这反过来又塑造了我们的认知。那是人类文化的黎明。

人类很快进步到模仿声音，进而发展出口头语言。正如我们之前所讨论的，语言并不等同于思维，但它使我们能够相互交流思想。在某个时候，我们游荡的狩猎采集祖先也开始定居下来，形成非流动的社群，发展出复杂的农业实践，使我们能够种植食物，而不是迁徙寻找食物。

最后，我们开始用书面符号来代表我们的口语和其他抽象观念。我们变得能够跨越世代传递复杂的观念。正规教育——一个确保知识在人类群体中共享的过程——不久后便出现了。随着时间的推移，将人类决策集体化的实践和制度也随之出现，例如“市场”、“法律”和“民主”。

我刚才提出的每一个论断都是可争议的，并且迫切需要比我在这里所能提供的多得多的细节。但这一过程与我们的生物进化是连续的，因为两者都促进了对周围世界越来越广泛的控制。

有时，这种文化变迁会产生意想不到的后果，造成伤害而非帮助。

人类饮食也许是最明显的例子。在我们的狩猎采集时代，高脂肪食物很稀少，但对生存很宝贵——如果你对此有怀疑，看看《荒野独居》就知道了——我们进化出了寻找它们并在找到后将其储存在体内的倾向。但后来我们在文化上发展出了农耕和其他农业技术，在大约一万年的时间里，使高脂肪食物在今天变得唾手可得——如果你想要一个热狗，有的是。

问题就在这里。热狗对我们的身体是一种危险，用我们不再需要在体内储存的过量脂肪堵塞我们的动脉。AI对我们的认知能力构成了类似的危险，它堵塞了我们发展所需知识的能力——在我们头脑中——以应对世界。它是一个认知热狗。

偶尔吃一个热狗不会伤害任何人，但如果它成为午餐或晚餐的常规餐食，那肯定会造成伤害。AI也是如此——危害不在于偶尔使用，而在于让它成为我们精神饮食的一部分。

然而，这正是大型科技超大规模企业试图做的事情。

在2025年7月一期关于“AI如何改变教育”的播客中，OpenAI教育副总裁Leah Belsky夸口说，在ChatGPT平均每月9亿用户中，“学习者”占了超过一半。她说，该服务是“世界上最大的学习平台”。最近，Anthropic宣布了一项名为“Claude for Teachers”的新计划，向在职课堂教育工作者免费提供高级模型的使用权限。

这些努力不会惠及学生，也不会惠及教师。事实上，这是AI如何为了便利而削弱我们赖以发展认知的体系的最明显例子。

曾任谷歌软件工程师的François Chollet曾令人难忘地将AI描述为一种“认知自动化”工具，他将其定义为“将人类的抽象概念编码进软件，然后利用该软件自动化通常由人类完成的任务”。去年，一个跨学科学者团体令人信服地论证说，我们不应把大语言模型形式的生成式AI“主要视为智能体，而应视为一种新型文化和社会技术，使人类能够利用其他人积累的信息”（着重号为原文所加）。

AI热衷者对这种做法的优势做出了大量预测，并且大多将其劣势轻描淡写为与以往的自动化形式——如计算机、计算器，甚至文字——相当。（有人多次拿柏拉图所谓反对文字的典故来反驳我，以至于我已在另一篇文章中专门回应——他本人就是个写作者！）

无论这些更早的技术产生了什么影响，我们从未开发并广泛部署过某种如此明确意图取代人类思维的东西——这正是AI布道者自己主张的。

看看教育。ChatGPT也许是世界上最大的学习平台，但学生们正在大规模地用它来逃避构建持久知识所必需的费力思考。越来越多的证据表明AI工具在教育环境中的负面影响（而且Z世代普遍讨厌它）。中国最近的一项研究显示，数千名学生在开始使用AI后基本上停止了做作业（这严重损害了他们的学习）。甚至有证据表明，当学生出于所谓的学习目的使用大语言模型时，他们会习惯于在其他情境中放松自己的判断力和批判性思维。

没有其他物种的大脑和身体像我们这样经历如此漫长的发育期，而在历史上，我们以独特的文化制度来补充这一点，这些制度将知识代代相传。我们应当热切地保护这一独属于人类的事业，然而相反，许多大学和学校的管理者——更不用说大型科技超大规模企业——正全力推动AI尽可能深入、尽可能快速地进入我们的教育生态系统。

无论这些更早的技术产生了什么影响，我们从未开发并广泛部署过某种如此明确意图取代人类思维的东西——这正是AI布道者自己主张的。

看看教育。ChatGPT也许是世界上最大的学习平台，但学生们正在大规模地用它来逃避构建持久知识所必需的费力思考。越来越多的证据表明AI工具在教育环境中的负面影响（而且Z世代普遍讨厌它）。中国最近的一项研究显示，数千名学生在开始使用AI后基本上停止了做作业（这严重损害了他们的学习）。甚至有证据表明，当学生出于所谓的学习目的使用大语言模型时，他们会习惯于在其他情境中放松自己的判断力和批判性思维。

没有其他物种的大脑和身体像我们这样经历如此漫长的发育期，而在历史上，我们以独特的文化制度来补充这一点，这些制度将知识代代相传。我们应当热切地保护这一独属于人类的事业，然而相反，许多大学和学校的管理者——更不用说大型科技超大规模企业——正全力推动AI尽可能深入、尽可能快速地进入我们的教育生态系统。

如果我们只把心智看作一台计算机，AI似乎在学习上更具优势——这正是许多人梦想打造AI导师的原因。但此类努力已然失败，因为我们的心智远不只是输入—输出设备。它们存在，或者说我们存在，于一个更广阔的认知生态系统中；在其中，我们必须就如何选择消耗自己的认知能量做出抉择。我们这样做是为了扩展自身的能动性、我们对世界的控制——无论这种控制多么有限。

但这带来了一个挑战。费力的思考是艰难的，而如果给我们提供技术上的“下匝道”，我们就会走上去——一些研究者最近称之为认知外包。他们警告说，随着认知外包的蔓延，“支撑自主推理的社会环境可能被削弱”——而随着它被削弱，这种外包“会变得更容易、更有吸引力”。

研究者建议实施一项针对AI的认知免疫计划，以维护“那些让人类认知保持活跃的实践与制度：无辅助的问题解决、验证、批判性讨论，以及[与AI使用]刻意脱离的时段”。

我们把这样的制度称为“学校”。

政策杠杆也需要被拉动。我觉得非常有意思的是，挪威最近基本禁止了13岁以下学生在学校使用AI的一切用途。在美国，一个主要的教师工会同样呼吁在小学禁止聊天机器人，而洛杉矶和纽约市等主要学区最近也实施了禁令。（披露：我曾向推动这些禁令的组织Schools Beyond Screens提供过非正式建议。）它们不会是最后这样做的，或者至少我希望如此。

好消息——如果这能算好消息的话——是抵制正在增长：也许你已看过许多大学毕业典礼上学生嘘声打断赞美AI的演讲者的视频？这无疑部分源于对就业的担忧，但我怀疑许多人认识到了AI对自身认知发展造成的伤害。对欧柏林卢德俱乐部的学生来说，这当然是真的；他们给大学校长写了一封公开信，批评该校对AI的拥抱：“当你们开启你们的AI之年时，我们将开启我们自己的自我实现之年——收获我们劳动的果实，拥抱人类的不完美与纯粹的探究。”说得对。

我们大脑中的控制系统是数百万年生物进化和数千年文化进化的产物。我们需要从心智的计算模型上抬起头来，看到使我们成为人的完整图景，并领会我们深刻的社会性——人类文化的驱动力。作为一个物种，我们已展现出非凡的韧性，但暴食认知热狗对我们任何人都没有好处。

吃得健康，思考才健康。