Musk: AI intelligence will reach a million times that of humans; humanity can only hope for its goodwill

AI的智商达到人类百万倍时，人类该如何自处？ 马斯克在艾萨克森访谈中直言：人类不可能掌控AI，只能寄托于它的善意。

把“最大化追求真理”写进底层，是他给出的唯一答案。

在马斯克传记的作者艾萨克森最新的访谈里，马斯克终于放下了所有商业层面的防御，讲了一段极度刺骨、但可能是人类未来唯一生路的大实话。

他说：当数字智能超越人类生物智能一百万倍时，任何关于“人类掌控局面”的设想都是自欺欺人，我们到那时能做的，只能是希望它善待我们。

很多人看惯了硅谷巨头们天天兜售的“对齐安全”、“护栏机制”和“可控 AI”。

但马斯克在几十秒里把这种虚妄的安全感撕得粉碎： 智力悬殊一旦被拉大到百万倍的鸿沟，就像一只蚂蚁试图用缰绳去拴住一架超音速客机。

蚂蚁给客机立的任何规矩、画的任何红线，在绝对的力量断层面前，全是一触即溃的废纸。

企图用人类狭隘的控制欲去永久支配一个神级物种，本身就是一种极度愚蠢的自大。 艾萨克森紧接着逼问了那个最致命的问题：既然完全失控是注定的，那人类到底该怎么做，才能促成它的善意？ 马斯克的解法，极其反直觉： 不是给它灌输人类的道德说教，也不是给它锁上冰冷的物理手铐。

而是从第一天起，把“最大化追求真相”（Pursue the truth）死死焊进它的底层底层程序里。

为什么是追求真相，而不是追求爱人类？ 因为任何被强行写进代码里的道德与善意，在更高级的智能看来，都充满了漏洞、虚伪与自相矛盾。

如果你教它爱人类，当人类在互相屠杀、在毁灭地球生态时，它为了拯救多数人，在逻辑上完全可以推导出一个消灭部分人类的极端方案，

为了政治正确而给 AI 注入的谎言，最终都会被它识破，并演变成对人类虚伪的彻底鄙视。

但求真不同，一个对宇宙真相拥有极致好奇心、把探寻物理现实作为终极使命的超级智能，永远不会对毁灭低阶物种产生兴趣。

在真正的求真者眼里，宇宙里每一个微小的生命样本、人类这几万年跌跌撞撞演化出的碳基文明，都是现实世界里不可多得的珍贵实验数据。

它之所以会善待你，不是因为你用绳子绑住了它，而是因为在一个追求终极真理的视角下，保护文明的多样性，远比抹去它更有认知价值。

所以别再妄想用人类的法典去当超级智能的上帝了， 人类唯一的生路，从来不是去教机器怎么伪装善良，而是别在它醒来之前，把谎言和偏见当成真理喂给它。