从教机器到教人：专访 Michael Littman

从教机器到教人：专访 Michael Littman

欢迎回到 AI Pioneers，这是我们与人工智能领域领军人物进行深入对话的系列节目。在本期访谈中，我们与 Michael Littman 探讨了强化学习的演变、创造力与文化在人类和机器学习中所扮演的角色，以及生成式 AI 给教育带来的挑战。我们还了解了他的科学传播方式、他如何用音乐传达计算机科学概念，以及他与第一封多媒体电子邮件附件之间出人意料的联系。

您从事强化学习领域已有数十年。您是如何进入这一领域的？在您的职业生涯中，哪些问题让您觉得最有趣？

我是在20世纪80年代中后期读大学时被强化学习吸引的。那时，人们才刚刚开始谈论神经网络，而当时使用的机器学习技术是监督学习，非常注重输入和输出。我觉得那没那么有意思——我想知道如何让它们表现出行为。

于是，我自己构建了一个强化学习系统，用来处理零和十字棋，也就是井字棋。这个游戏足够小，我可以在家里的小计算机上运行它，但它让我思考了一些有趣的问题。例如，获得反馈意味着什么？以及，你如何利用游戏结束时的反馈来知道你在游戏开始时本应该做什么？

我开始探索这个主题时，并不知道它属于强化学习。直到1988年我大学毕业之后，我才发现了其中的联系。当时我在一个研究实验室工作，和一位名叫David Ackley的研究员共事，他做过类似模型的研究。他曾经是Geoff Hinton的学生，因此对神经网络非常熟悉，也对行为非常感兴趣。我向他解释了我当时在摆弄什么，以及为什么我觉得它如此有趣，他说：“哦，那叫强化学习，Rich Sutton刚发表了一篇关于这个的论文——我们请他来做一场报告吧。”

就这样，我大概在1989年前后关于Q-learning的论文发表之前，就听说了Q-learning。

自那以后，强化学习是如何演变的？

这其实是一个非常有趣的问题，因为我们现在所称的深度强化学习，在很多方面都偏离了我们多年来一直在做的事情。现在的做法是把大量算力投入到问题上，看看效果如何，但由此产生的系统确实解决了一些非常有趣的行为问题。

例如，我们现在不仅有能下井字棋的程序，还有能下围棋、玩电子游戏以及应对各种真正艰难挑战的程序。过去几年里，随着人们将深度神经网络与在决策问题上训练这些网络相结合，这一领域已经发生了很大变化。

话虽如此，对我来说它仍然感觉没有被解决。早期吸引我的那些问题仍然非常困难。我们向这些问题投入了神经网络，这并没有让它们得到更好的理解。它只是让它们在实际意义上得到了更多解决。

你必须给这些系统提供大量数据，它们才能做出合理的决策，这个数据量令人筋疲力尽——这要求系统几乎见过所有可能性。我们没看到它们能像动物那样做出那种创造性的跳跃。和 Rich Sutton 一样，计算机与动物决策之间的关系让我深受启发。我认为，我们距离动物仅凭本能就能在世界中导航的能力还差得很远。还有很多进步空间。

你认为 AI 系统需要发生什么，才能做出你之前提到的那种创造性跳跃？你觉得我们能在当前的范式内做到这一点吗？

这是个好问题，我和很多人聊过这件事。有些人觉得正确答案就是更多的数据。他们说，我们只需要反复训练这些系统，让它们大量接触各种事物，然后它们就能做出好的决策。这方面有一些证据，但数据的规模以及它所支撑的决策的复杂性根本行不通。你不可能仅仅靠大量示例就覆盖所有需要做出的生存类决策，对吧？一定还有别的东西。

通常，系统会受到其决策结果的影响。如果一道题的答案是七，仅仅宣布数字七是不够的——它必须相信答案是七。必须是这样的情况：如果那是正确的做法，就会有积极的事情发生；如果那是错误的做法，就会有消极的事情发生。而系统能够在这个反馈回路中自我调整。这就是强化学习。

现在，我认为我们现有的方法在数据量上的扩展性太差，以至于我们无法真正给它们机会去看到自己行为的后果。我们可以在数据有限的空间里做到这一点，比如数学，我们可以用 AI 来证明一个定理，然后验证证明是否正确。这样我们就能用真实的经验来训练系统，而这已经相当有效了。

如果你考虑的是现实世界，比如一台能够在别人家里导航的机器人，那我们就远远落后了。人们目前尝试做的事情涉及扩大数据量。我们必须做到拥有整整一仓库的机器人都在做各种事情，这样它们才能从中学习，从而真正做出更好的决策。但这个方向根本无法扩展。它太慢了，而且有太多必须经历的特殊情况。归根结底，这不是一个能赢的策略。

我认为我们需要做的事情，要更像真实生物——像人和动物那样。有些人承认这一点。动物和人类能达到今天的状态，靠的是某种组合：一个让你得以出生的进化过程，以及出生之后一个更偏向学习的过程。

直到出生为止的进化过程引入了一些非常重要的结构和概念，我们自己没有时间去构建它们。我们无法用这种方式进化出AI系统——那需要数百万年。所以我们要把那部分内置进去，然后让学习在此基础上发挥作用。但知道该内置哪些正确的东西真的很难，所以我认为人们卡在了这一步。

然后，还有一些人在开发世界模型，这与强化学习相近——它确实在解决一些相同的动机。在强化学习中，我们从一开始就有世界模型的概念，比如学习者能够预测当它采取某些行动时会发生什么。问题就变成了：这个世界模型的结构是什么？我们是否有足够的数据来约束它，使其有助于做出好的决策？我认为这个问题还没有定论。

你目前觉得最有趣的研究问题是什么？

我一直关注着我那本《Code to Joy》里提出的一些东西。尤其是，我已经有点偏离了那种“只构建一个智能体或程序，然后让它自己想办法解决问题”的观念。我想，人类也许会觉得，做一个人大概就是那么回事。但事实是，我们一出生就置身于非常丰富的文化之中，包括观念和人工制品。

我们周围的一切都在试图指引我们，告诉我们怎样才能最好地生存、互动并做出好的决策——我们从同种个体、也就是我们文化中的其他成员那里，接收到非常详细的信号。当我们把任务传达给彼此时，往往会采用涉及许多不同种类信号的方式。

在书中，我探讨了显式指令或程序的概念。你可以通过说“做这个，然后做这个，再做这个，然后如果发生这种情况，就做这个，但如果发生另一种情况，就做那个”来告诉某人该做什么。你可以把一切都明确写出来。这是一种让机器执行任务的相当有效的方式，也是我们今天所有计算机的基础。

但还有其他模型。例如，在监督学习中，你给出示例指令。你不是说“在这种情况下你要这样做”，而是说“这里有一种情况。这是在这种情况下正确的做法。这里是另一种情况。这是在这种情况下正确的做法。”我们会堆叠成千上万个或数百万个这样的例子，让计算机自己弄清楚其余的部分。我们对人也是这样做的，但我们往往使用更小的示例集，因为哪个人能处理一百万个例子呢？不过，这种示例指令的概念，是我们向彼此和向计算机传达任务的另一种方式。

另一种方法是强化学习，它使用显式激励。其思路是，我们会非常明确地说明任务是什么，以及完成任务会得到什么奖励。我不会告诉你在任何特定情况下该怎么做，但如果你发现自己没有完成任务，你大概应该尝试别的方法来获得奖励。这就是强化学习的本质，我们对人也会这样做。

这组想法中的第四个象限是示例激励，它用得没那么频繁。它的思路是，我会向你展示我怎么做，你应该从中推断出我想达成什么。你只能看到我的行为，但你要据此尝试推断出对最终状态的描述。

我觉得特别有意思的是，当我们把任务传达给人时，往往会把这些不同的机制混搭在一起使用。比如，我们会说“这是你应该做的”，然后用一个例子来解释，或者给出一个可以推广到更一般情况的说明。又或者，我可以直接告诉你应该做什么。我们一直在使用显式指令、示例指令和显式激励，而且全都混在一起用。

在计算机科学中，我们一次只做一种：要么是编程，要么是监督学习，要么是强化学习，取决于你认为哪种最适合特定任务。单独来看，它们都有各自的局限。只有当你开始混搭使用时，你才能弥补不同模型的短板，最终得到真正更稳健的东西。

这就是我现在正在从事的研究。从这个起点出发，我们如何构建一个能够结合这些不同反馈模态的系统？它是某种贝叶斯推理器吗？我们如何让它规模化？大型语言模型中正在发生的任何事情中，有没有我们可以利用的东西，来尝试实现这种任务和行为的多元模态规范？有很多问题值得研究。

我喜欢你提出的观点，即文化是一种隐性学习的形式。我想这就是我们在大型语言模型中所做的事情——我们把关于文化是什么的所有数据都给它，让它从中学习。

我想说，我认为人们非常聪明，但我们并没有那么聪明——我们没有NP完全问题级别的聪明。我们真正擅长的是利用身边的碎片，把它们组装成比之前稍微好一点的东西。如果你不断迭代，就能达到一些非常先进的成果。这就是人类创造力在发挥作用。

但通常我们在测试AI系统时并没有这样做。我们只是说，你身处一个世界，祝你好运。我认为这可以被证明是难以处理的。我们能够生存下来的唯一方式就是互相借力。

我们也有强烈的生存动机。

是的，还有生存的需要。最近我一直在和我的一个博士生研究这个，我把它称为“切身利害”。他在做一些实验，让大型语言模型做出有后果的决策，但这些模型并不承担任何后果。它们没有切身利害——它们在没有生存本能的情况下做出这些决策。我们让它们在不关乎自身后果的情况下做决策，这一事实意味着我们真的应该对它们给出的建议持非常怀疑的态度。

你在 ChatGPT 问世之际出版了《Code to Joy》。你是否预见到 AI 编程会对人们学习编程的方式产生影响？

书中有整整一节，我在其中惊叹于GPT-2。它能谈论颜色却没有眼睛，或者能以新颖的方式补全句子，这实在令人难以置信。我确实记了一笔：人们开始尝试用大语言模型生成代码，而这可能非常有用。不过，那是在ChatGPT之前、在Claude Code之前写的。现在情况已经大不相同了。

这本书的主题在大型语言模型兴起之后依然成立——人们应该学习编程，因为它能赋予人力量。作为一个编程多年的人，能够吩咐机器替我完成一项任务，是非常自由的感觉。我当时想说明的是，尽管写代码很烦人、语法很古怪、还逼着你必须非常小心和讲逻辑，但好处是实实在在的，而且那些概念并没有你想的那么难。它们建立在每个人每天都在做的事情之上。并没有什么真正陌生的东西——它只是你已经知道的东西的极端版本。

现在情况不同了。我们生活的世界里，你只要跟计算机说话，它就会为你写代码，然后你可以给它反馈，它就能根据你的反馈调整自己的行为。我觉得向计算机表达一件事仍然很难。你必须知道自己想要什么，而且必须在没有得到想要的东西时察觉到——这一点仍然非常重要。但开始摆弄这项技术的门槛已经降低了。对我来说，这真的很有趣、很令人兴奋。

关于氛围编程以及AI对编程的影响是正面还是负面，有很多讨论。你从中看到了机会吗？

我认为它完成了很多我在书中传达的步骤，这让一个人指定自己的任务变得容易得多。例如，他们有所有这些计算机文件，想以特定方式整理它们。他们可能不知道如何用代码表达，但他们可以用氛围编程来实现。所以我认为它极其强大且有用，我自己也一直在用它做各种各样的事情。在某些情况下，它让我能够启动我几十年来一直想做的项目。我只需问 Claude Code，看看会发生什么。

然而，在某些情况下，这完全是一场灾难。我真的很想要一个能帮我学习视唱的程序——能够仅仅看着乐谱就能唱出一首歌。我整理了一组我已经会唱的歌，然后让电脑把它们写成音符，我就可以看看自己能否从音符的模式中辨认出整首歌。我用 Claude Code 做了氛围编程，其中一些例子效果很好。其他的就不怎么样了。

有一首歌我没认出来，而电脑坚持说那是《咩咩黑绵羊》，甚至还为我播放了这首歌。我说那绝对不是《咩咩黑绵羊》，然后电脑就为编造了它而道歉！为什么要编造，而不是使用真正的歌曲呢？

所以，并不是说所有问题现在都解决了，但确实有更多问题得到了解决。我们现在有一个非常有趣的机会，我非常鼓励大家去尝试。它能让你有能力创造出你也许一直想要、却没办法具象化、没办法在现实世界中实现的东西。

是什么吸引你把计算机科学、唱歌、科学传播以及诸如此类的东西结合起来？

我从小就看一个叫《Schoolhouse Rock》的小视频系列。里面有一些可爱又朗朗上口的动画小歌，用来解释各种概念。我就是这样学会了很多关于词性的知识，比如副词和形容词的区别。小时候这对我来说真的很难，但那些歌让它变得特别清楚。它们也讲到了美国历史的元素。我学会了美国宪法的序言，因为他们把它谱成了曲子。我心想，我会唱这首歌，但我不懂宪法——可等等，这其实是一回事。

所以我看到了通过歌曲教学的巨大力量——它们是传达思想的绝佳机制。我不会写歌，但我会写词。我通常会拿流行歌曲的现成旋律，重写歌词，让它们围绕我想教授或强化的内容。对我来说，这主要是计算机科学和AI——我有一整套歌曲。

在向非专业人士传播你的工作方面，有没有什么改变了你对研究的看法？

是的，确实如此。我在书中采取的方向源于我教授的一门课程——为非计算机专业学生开设的计算机科学导论。我一直惊叹于不同领域在欢迎人们进入该领域时有着不同的方式。大多数大学都会开设心理学导论课，你可以借此了解整个心理学领域，这门课也可以作为即将学习心理学的人的入门。但如果你只修了那一门课，之后再也不碰心理学，你至少拥有了这个概念框架，知道心理学家是做什么的。我喜欢心理学、生物学和经济学都这样做。

在计算机科学领域，我们的态度是：在你学会编程之前，我们不想和你交谈。我们的入门课程就只是教如何编程，因为否则我们无法与学生就我们的领域进行任何有意义的对话。在那之后，我们会涉及各种各样有趣的内容。我们教人们计算是什么、意味着什么，以及它如何与物理学、数学和认知科学相关联。一旦学生跨过那道初始门槛，你能涵盖的内容就多种多样了。

我认为从公共关系的角度来看，这是一个糟糕的模式。现在，人们必须先学会写计算机代码这门非常艰难、甚至可以说是晦涩难懂的技艺，然后我们才能告诉他们，我们作为计算机科学家是做什么的、为什么我们认为它重要、为什么我们认为自己理应获得社会支持，以及我们回馈给社会的是什么。我们只有一次机会来表达这一点，而我们正在浪费这个机会。

所以我想创建一门入门课程，在这门课上我们会告诉你计算机科学中发生的一切，并做一些编程，因为不这样做就很难理解它。但目标并不是让离开这门课时成为一个程序员。目标是让离开这门课时成为一个理解了计算是什么的人。这些课程的受众是那些不是计算机科学家、也不打算成为计算机科学家的人。他们只是对学习感兴趣。这确实让我体会到了当人们不是来自这个领域时，他们能为对话带来什么。

AI的兴起如何影响了教育以及你的教学方式？

在我目前于大学担任的职位中，我是四分之一时间的教授、四分之三时间的大学管理者，负责监管人工智能。人工智能已经以非常深入且赋能、但同时也极具破坏性的方式渗透进了我们所有的课堂。当学生可以使用生成式人工智能时，我们一直以来的教学方式就行不通了。这就好像每个学生都拥有所有作业题和考试题的答案，而我们只是要求他们不要去看。但当然，这并不现实。他们觉得自己必须去看，而且他们确实看了，结果什么也没学到。

这迫使大学里的每个人真正退后一步并追问——教育是什么？它不是作业，不是讲课——它是别的东西。它是什么，我们如何继续拥有它？这是一个难以解决的问题，但人们回应它的方式非常有趣。

一个角度是，也许我们需要更多地关注人们解决问题的过程，而少关注最终的答案。借助生成式AI，学生可以不经历理解的过程就直接得到答案。我们必须找到另一种方式，引导人们走上那条道路，帮助他们的思维朝着富有成果的方向发展。

之前我们谈到，我们的文化为我们提供了向前迈出下一步的所有机会，这就是为什么人们看起来如此聪明。我们不必每一代人都从零开始重新发明社会。如何把这些信息装进人们的头脑，这个问题现在受到了质疑。所以是的，我认为AI正在对教育产生深远影响，而且这种影响主要是破坏性的。但让人们重新评估我们在教育中哪些做得好、哪些做得不好，无论如何都是有价值的。

人们也在利用AI做一些非常有创意的事情。AI系统有可能不再像讲师那样面向一个共同的平均水平授课，而是提供针对每个人量身定制的信息。我们已经在现实世界中看到了一些非常好的应用。

只是现在还为时过早，我们还没有防护栏——我们还没有建立起相应机制，来确保人们使用AI学习时能获得良好结果。有各种证据表明，它会对人的头脑产生奇怪的影响。我们还不知道这件事的三阶和四阶效应，也还不知道如何保护人们免受负面效应的影响。这是一个过程，我们作为一个社会正在努力解决这个问题。

我不喜欢把它框定为教授对学生、并且存在对立。在我与学生的所有对话中，我能看出他们是切身相关的。这对他们很重要。他们知道这并不只是“太好了，我现在可以作弊了”，他们也意识到这不会给他们带来任何人生中的竞争优势。他们需要学习，把这些概念装进自己的头脑，而他们不知道怎么做。所以我不认为这是教授想明白了然后强加给学生的情况。我认为这是我们所有人都必须共同努力的事情。

听起来这是一个非常困难的问题。

是的，这是一个非常艰难的处境。我曾与一些在该领域耕耘了很久很久、深谙此道的教授交谈过。他们有着惊人的直觉。当我问他们中的许多人打算如何应对生成式AI时，他们说打算现在就退休——尽管我们从未像现在这样需要他们。

但事实是，对每个人来说，从零开始重建教育结构都是一项极其艰巨的工作。有些人已经没有精力再去做这件事了。我这么说，是为了承认一个事实：正在努力应对这个问题的人们，正在做着非常重要且艰难的工作。

而我们对待它的方式至关重要。我们不想因为依赖AI而丢掉自己的技能。AI带来了巨大的机遇，但我觉得它也消解了我们许多的动力——它让我们得以偷懒。借助AI，你可以学得更好，但你必须主动选择付出积极的努力。

到目前为止，你们找到什么解决办法了吗？

我开始看到一些非常不错的想法。最近，我们举办了一次大学层面的管理者务虚会。有人请我去找个人来谈谈AI，于是我决定给大家来个出其不意，从山下请来了一位艺术教授。布朗大学旁边就有一所世界顶尖的艺术学院。

这位艺术教授正在探讨如何教育艺术家的问题。他对此的思考方式非常引人入胜，因为艺术学校其实早就在做很多类似的事情了。艺术学校不是关于创作艺术然后提交艺术。艺术学校关注的是创作过程，以及你为最终做出作品所运用的技巧等等。作品是你瞄准的目标，但教育过程关注的是你如何到达那里，而不是终点。我认为归根结底，艺术家会创作他们想创作的东西。艺术学校不在乎他们创作什么，但非常在乎他们创作的过程。

我邀请来演讲的那位教授一直在AI领域应用这些理念。AI可以帮助你做出成品，但它不会在过程上帮到你。而在艺术学校，他们从来就不那么在意成品，只在意过程。我认为这对我们所有人都是一种启示。

人文学科的人创造作品，比如一篇文章或一份立场声明。计算机领域的人编写程序。艺术领域的人创作图像或雕塑。我们都在以某种方式参与这种创造性的过程。我们应该想办法在过程层面而不是在最终效果层面来教人。我认为，当我们让人们参与到这个过程中时，即使AI是过程的一部分，迫使他们反思正在发生的事情以及所有的步骤，也是非常重要的。

例如，去年春天，我和另外两位教员开设了一门实验课程。我们教的是计算机科学导论，课上所有学生都能使用 Claude Code。我们告诉他们要编写哪些程序，但随后他们必须组织 Claude 来生成这些程序，并且要对最终结果负责。

学生不能说，好吧，这是 Claude 做的，那我想我现在就完成了。他们必须问——这真的能行吗？它是怎么工作的？它是否可扩展？它是否安全？我们带着他们对所做的事情进行了假设性的评估。我们基本上是在用艺术学校的技巧来教编程。我认为学生们学到了非常有价值的一课：他们在创作过程中扮演什么角色。我们正在培养的是理解自己在让软件成为现实的过程中扮演什么角色的软件工程师。

问题在于这很难规模化。这是一个20人的班级，与艺术学校的班级规模相近。在计算机科学领域，我们通常要教300到400名学生。我不知道这该如何行得通。

我想知道，随着AI降低了各个学科的入门门槛，跨学科技能是否会变得更加重要。

我们发现的一件事是，在一家典型的初创公司里，通常有三个人紧密协作。一位产品经理，对整个产品有愿景；一位设计师，把它做出来；还有一位工程师，让内部机制运转起来。这三个人必须配合得非常好才能创造出好东西，但这些角色之间的界限正在消失。借助智能体AI系统，现在一个人就可以同时是产品经理、设计师和工程师。

我们不知道如何教人们承担这个角色，但我认为这是我们必须走的方向。再说一次，明年春天我要开一门实验课，明确地就是要做这件事。我们会引入一些完全不一定是计算机程序员的人。会有一些有设计背景但不懂技术的人；一些懂技术但不懂设计的人；还有一些能思考产品管理的人。我们的目标是帮助他们，使他们能够以统一的愿景、整合的方式各自承担所有这些角色。

事情变化得非常快！在你的职业生涯中，你也见证了许多其他技术变革。你参与了发送有史以来第一封电子邮件附件，我觉得这非常有趣。那是怎么发生的，看着这些技术随时间涌现是什么感觉？

这是个好问题。关于第一封电子邮件附件，那件事之所以发生，是因为我当时在一家名为 Bellcore 的公司工作，它在一段时间内是美国各家电话公司的研发部门。由于这个角色的职责是支持所有这些不同的电话公司，实验室里的很多人都在从事标准方面的工作，或者研究如何让不同系统之间实现互操作。如果不同的制造商生产电话，他们就需要理解一个电话让另一个电话响铃所依据的协议是什么。

当时，互联网才真正开始发展起来。电子邮件标准已经存在，但如果我们想发送更丰富的电子邮件，比如包含图像、声音或动画的邮件——那会是什么样子？这在当时是件大事。我们有一位代表参加了一个国际委员会，负责制定那个标准应该是什么样。它叫 MIME，代表多用途互联网邮件扩展。你希望拥有不只是 ASCII 文本或字母的多媒体。你希望能够发送图像、声音等等，甚至只是带格式的文本。我们需要一种方式，让我的邮件程序能把消息发送给你的邮件程序，并且让你的邮件程序能够理解它，即使它是由别人开发的。

在Bellcore，我和Nathaniel Bornstein一起在一个叫Telephone Chords的合唱团里唱歌。我其实并没有在技术上和他共事过，但他在协助领导那个委员会，并且想举一个电子邮件附件的例子，一旦他们把格式最终确定下来，他就可以作为演示发送出去。他改写了一首著名理发店四重唱歌曲的歌词，并整理出一段带格式的文本、一张我们所有人唱歌的照片，以及我们演唱他那首歌的音频。他把它们全部组合进一封电子邮件中，然后发给了委员会的其他成员。那是第一次有那样的内容从一个地方通过电子邮件发送到另一个地方。

我喜欢第一封电子邮件附件背后所投入的心思，也喜欢它因为歌唱而变得令人难忘。

我喜欢这样想：Nathaniel 的灵感来自诸如第一封电报的内容——“上帝创造了何等奇迹？”以及从月球传回的第一条信息——“这是个人的一小步，却是人类的一大步”。我觉得他当时想的是，这会成为流传后世的东西，但他把它弄得傻乎乎的，因为我不知道——傻乎乎的挺好玩。这些年来，我收集了一份这类“通信首次”的清单。那里有一个链接，指向一个网页，上面有那段构成第一封附件的“电话和弦”的照片和音频。

你是否期待未来，想看看会有什么到来，又会是什么？

未来似乎近在眼前了，对吧？两年后会发生什么？天哪，我完全不知道。

我在期待什么？我希望我们能对自己在做什么以及为什么这么做有更多一点的把握。我喜欢这样一种想法：人们可以因为生成式 AI 的存在而获得更多赋能。而想到不仅是教育，还有科学，甚至也许社会结构，都在被从根本上削弱和重新思考，我就感到不安。我希望我们也许能想出好东西来取代我们正在丢弃的东西，但我很担心。

我是一个相当乐观的人，但我是谨慎乐观。有些人相信这是乌托邦的开端，它将改变一切——我们将拥有无限的资源、无限的知识、无限的灵活性。但我不知道。人终究是人。人们需要消化他们所身处的世界，以某种方式去吸收它。这一切发生得太快，人们真的很难吸收。如果我们能先缓一缓就好了。就像全世界都去度个假，我们就把这件事想清楚。但我们必须在它还在运转的时候去做，而这确实让我担心。

我对AI有什么期待？我确实认为，早期推动这一领域发展的一些问题至今仍未得到解答。尽管我们已经有系统能在某种程度上做到这一点，但我们并没有回答当初提出的那个问题。那个问题并不仅仅是：我们能否拥有这样的东西？我们知道我们能够做到，只要我们相信人某种程度上就是一种计算机程序，而不是来自另一个维度的某种神奇、神秘的操作木偶的人。如果我们本质上就是程序，那么我们就能编写出做人所做之事的程序。

那不是问题所在。问题是：你如何构建智能？那究竟是什么样子？其中有没有一些方面，我们可以改进并用来帮助人们变得更富有同情心、更有洞察力或更灵活？我不认为这些聊天机器人的存在真正回答了这些问题，但它们给了我们新的方式来提出这个问题，也给了我们新的方式来寻求答案。我很期待看到人们去做这件事。

我很喜欢这样一个类比。当计算机程序在国际象棋和西洋双陆棋上变得非常出色，并最终在围棋上也变得非常出色时，有些人认为我们不会再有兴趣学习玩这些游戏了。但另一些人则把它视为一个机会，让我们能够在一个此前根本无法企及的层面上研究这些我们非常在意的游戏。结果是，由于我们从观察计算机玩这些游戏中学到了东西，如今人们玩这些游戏的方式已经不同了。这些游戏对人类来说仍然很有趣。只不过我们对这些游戏的结构有了更多的洞见。

我们现在拥有的AI程序，也就是这些聊天机器人程序，显然在内部做着某种我们长期以来一直想知道如何设计的事情。现在我们有了一个真正能做到这一点的程序。我们可以研究它，它可以帮助我们回答其中的一些问题——你如何让一个计算机程序能够灵活地权衡来自不同来源的证据，并得出一个推理充分的结论？

答案可能就在那里。可能就在那些程序里。我们只需要深入进去。因此，我们有机会在過去试图解决的问题上做得更好，因为我们现在拥有了这种新能力。所以这是我感到非常兴奋的事情。我们也许终于能弄清楚，当我们说某样东西具有智能时，我们到底指的是什么。

关于Michael Littman

Michael L. Littman 是布朗大学计算机科学大学讲席教授兼人工智能副教务长。他的研究聚焦于机器学习和不确定性下的决策，已获得三项最佳论文奖和三项影响力论文奖。他因对人工智能教学与推广的贡献而获得杰出教育者奖。Littman 是美国人工智能促进会、美国艺术与科学院以及美国计算机协会的会士。他近期曾担任美国国家科学基金会信息与智能系统学部主任。他的著作《Code to Joy: Why Everyone Should Learn a Little Programming》于2023年10月由麻省理工学院出版社出版。 他主持了为“人工智能百年研究”（AI100）撰写2021年报告的小组。他还共同主持并共同撰写了《国家人工智能研发战略计划》（2023年更新版）。

Ella Scallan

是AIhub的助理编辑

Ella Scallan

是AIhub的助理编辑

AUAI的支持方包括：

相关文章：

从实验室到生活：为什么将AI进展转化到现实世界是一项重大挑战

The Conversation

2026年10月28日

在受控的实验室环境中表现良好的系统，在部署到家庭、医院或城市街道时往往力不从心。

研究人员把AI“灌醉”，以揭示聊天机器人中新的网络安全风险

新南威尔士大学

2026年10月27日

用醉酒文本对大语言模型进行微调，会使它们更可能泄露机密并回答有害问题。

AI在消灭工作的同时也在创造工作——但这些工作有多大回报？

The Conversation

2026年10月26日

就业增长的一个领域是人们为大语言模型“收拾残局”，或对其进行质量控制。

AI如何改变人类决策

林雪平大学

2026年10月23日

AI能够识别人们遗漏的模式，并将新信息引入决策过程。然而，这并不会自动带来更好的决策。

参加RoboCup@Home并荣获2026年最佳论文奖：专访Raphael Memmesheimer

Lucy Smith

2026年10月22日

进一步了解Raphael的研究以及他参与RoboCup@Home联赛的经历。

AI正在扭曲考古学，并抹平原住民知识

Pursuit，墨尔本大学

2026年10月21日

虽然AI可以帮助考古学家，但它也可能传播伪科学主张和虚假历史，剥夺原住民知识的背景、同意和社区控制权。

2027年ACM SIGAI自主智能体奖开放提名

ACM SIGAI

2026年10月20日

现征集2027年ACM SIGAI自主智能体研究奖提名。

AI正在帮助缓解对稀缺频谱资源的竞争

The Conversation

2026年10月19日

每当你拨打电话、流式播放视频或连接Wi-Fi时，你的设备都在通过空气发送和接收看不见的信号。

人工智能理解协会