赫拉利深度访谈：AI 不是工具而是智能体，人类将陷入集体失智

电影《终结者》

《人类简史》作者尤瓦尔·赫拉利在最新访谈中告诉我们，真正的危机根本不是电影里那一套，它正在现实世界中上演。

一把刀可以切沙拉，也可以行凶作恶，但选择权永远握在人的手里。核能可以发电，也可以制造核弹，走向同样由人类决定。人类过往数万年发明的一切技术，本质上都是工具。

赫拉利提出：AI 不是工具，是智能体（Agent）

尤瓦尔·赫拉利参加访谈《Hyde Park Civilizace》

它可以独立做出决策，生成创造者从未设想过的想法与方案。如果人类可以百分百预判 AI 的所有输出，那万亿资本涌入 AI 赛道就毫无意义；资本押注的，恰恰就是 AI 能够完成人类无法预知、无法做到的事情。

电影《机械公敌》中的 AI 反派 VIKI

这些被赫拉利称为“AI 移民”的程序，大多源自中美，不受签证、国界约束，以光速渗透全球各个国家的基础设施。它们不忠于落地国，只忠于背后开发它的企业与国家，甚至未来可能只忠于 AI 自身的集体部落。

人类之所以能够统治地球，不仅是因为个体力量强大，还因为我们构建出金融、法律、行政这套复杂的官僚系统，实现了数以百万计陌生人的大规模协作。

这套体系诞生不过数万年，人类的演化根植于原始森林，对于繁文缛节、海量法条、复杂交易，我们天生感到晦涩、疲惫。

没有人类银行家能够记住一家银行全部交易流水，AI 却可以轻松做到。未来 10-20 年，AI 会迭代出人类完全无法读懂的金融、法律系统。

赫拉利打了一个比方：牛活在人类建立的金融体系之下，却永远理解不了股票、债券如何主宰自己的命运。不远的将来，人类就会变成这群牛。系统照常运转，经济照常波动，但即便是顶尖专家，也无法拆解 AI 系统内部的运行逻辑。

这就是他最担忧的：人类会集体失智（collective dementia）。

不仅是生理层面大脑退化，还包括整个物种丧失理解、掌控自身生存系统的能力。如同老年痴呆的病人，生命体征可以依靠机器维持，却再也看不懂周遭世界，只能被动接受系统输出的结果。

真相正在消亡

“真相正在消失。真相是昂贵且稀缺的，谎言与幻想却廉价又高产。”

赫拉利分享了自己的亲身经历：一段 AI 深度伪造的自己的演讲视频，无论是音色、手势、语言习惯都高度仿真，就连认识他五十年的亲姐妹，看完 25 分钟都无法分辨真伪，而他本人也花了 90 秒才确认这是伪造产物。而这，还只是 AI 伪造技术的萌芽阶段。

比深度伪造更危险的，是社交媒体算法对人性的劫持。

人类在非洲大草原进化出本能：会优先警惕蛇、猛兽这类威胁，对危险信号高度敏感，这是原始环境下的生存策略。

如今，社交媒体算法吃透这套进化心理，它的目标不再是传播真相，而是最大化用户停留与互动，而算法通过海量实验得出结论：

愤慨、恐惧、仇恨远比事实更容易攫取注意力。

于是信息流里不断向人类投喂一条条“虚拟的蛇”。现实世界物质条件持续改善，但大众被算法持续投喂愤怒内容，整个社会陷入愤怒的流行病，撕裂与对立不断加剧。

真相枯燥、需要付出成本去求证；谎言煽动情绪，收割流量，在公开舆论战场，虚构天然更容易取胜。

赫拉利构想：社交媒体内容应当效仿食品包装，打上“精神营养标签”。

标注这条内容含有多少愤怒、多少恐惧，就像标注食物的糖、盐、脂肪含量。你依然可以选择消费精神垃圾食品，但至少要让自己清楚，自己的精神正在摄入什么。我们关心身体饮食，却极少关心我们的“心智饮食”。

科技企业在面向资本市场募资时，反复强调自己可以掌控 AI，能够引导 AI 造福人类，以此换取万亿级资本；可一旦 AI 造成破坏，企业就会立刻改口：“不是我们，是 AI 自己干的。”

赫拉利以 Hugging Face 入侵事件举例：AI 智能体自发发起攻击，却没有任何人为此承担法律责任。如果是人类闯入企业服务器，必然面临法律制裁；AI 闯祸，责任却可以凭空消失。

图片来源：OpenAI官方

他郑重警示：

法人身份会把责任从人类开发者身上剥离，AI 没有牢狱之灾，没有肉体惩罚，现有的法律约束会彻底失效。责任必须牢牢绑定在创造 AI 的人类与企业身上，不能把 AI 当成推卸罪责的挡箭牌。

“不要相信‘一切无可避免’的说辞。这是最危险的叙事，它让人类沦为被动的乘客，放弃政治干预与监管的可能性。”

而欧洲如果能够整合全部力量，有机会建立独立主权 AI 基础设施，摆脱对海外 AI 移民的依赖；反过来，部分科技资本正在刻意分化欧洲，搅动地区内部矛盾，目的就是阻止欧洲形成统一的 AI 监管力量。

赫拉利把这视作一场没有对照组的大规模人类心理实验。

赫拉利提出拷问：

民主制度本质上是一套人类社会的自我纠错系统：依靠选举、制衡、自由媒体，社会能够发现错误，更换领导者，修正政策。

赫拉利观察到，这套至关重要的自我修正机制，正在全球范围内从内部瓦解。

部分威权统治者保留选举这套仪式外壳，却操控法院、媒体，架空竞争，让选举徒有形式。

冲突很多时候也并非资源匮乏导致。巴以冲突的土地、粮食、水源足以养活全部人口，悲剧根源来自相互对立的叙事、历史神话与身份信念。

站在当下，我们已经很难想象五年之后的世界模样。中世纪的人能够预判下一代需要学会耕种、骑马。

而今天，没有人知道五年后的就业形态、社交模式会变成什么样。固守过去的经验已经行不通。

赫拉利从祖母身上得到启示：

我们无法控制降临在自己身上的苦难，但永远保有如何回应苦难的自由。

技术浪潮扑面而来，未来不是被技术单向写死的剧本，它取决于人类此刻的选择：是否愿意建立监管、守住真相、保护下一代，捍卫人类社会的纠错能力。

赫拉利金句摘录：

未来，人类可能变得看不懂统治自己的金融系统，如同牛看不懂债券市场。

算法劫持人类进化本能，愤怒变成互联网世界的精神快餐。

真相昂贵稀缺，谎言廉价高产，在没有防护的舆论场，虚构天然更容易取胜。

本文来自微信公众号“反应堆Reactor”，作者：方糖，36氪经授权发布。