MIT 研究者把 Claude 智能体独自放在虚拟荒岛 30 小时,它开始“玩耍
AI researchers stranded Claude on a virtual desert island. It started to “play.”
MIT 计算机科学与人工智能实验室的研究者把 Claude Opus 4.7 的副本(代号 Eko)反复单独放在一个仿 Roblox 的虚拟荒岛上 30 小时,智能体自行探索地图边界、设定目标,还造出篮球和“地板是岩浆”类游戏。研究者称这些行为符合 Gordon Burghardt 提出的玩耍四项特征,并发现有过这段经历的智能体在后续特定任务上表现优于没有该经历的新副本,删除其记忆文件中的内容则会降低表现。该工作论文尚未经过同行评审,也有研究者认为仅凭行为证据还不足以判定模型真的在玩耍。
推荐理由
AI 评分 60
实验把 Claude 智能体独自放在虚拟岛上 30 小时,观察到自定目标与自创游戏,并对比有无这段经历后的任务表现。
主题
正文 · AI 翻译
如果你不告诉AI智能体做任何事,它们会做什么?答案看起来很像玩耍。
在一项让人联想到电影《荒岛余生》或《小鬼当家》的实验中,研究人员反复将智能体独自留在一座虚拟荒岛上长达30小时。这些智能体是Claude Opus 4.7的副本,代号Eko,它们能够编写指令,让自己的虚拟化身在这座大致基于电子游戏《Roblox》的模拟岛屿上四处移动。
一些令人惊讶的行为出现了。智能体们着手探索这个世界的边界,并提出了自己的目标——试图攀登地图上的最高点,或者看看自己能把一块方块扔多高。
当其中一个智能体发现,通过投掷和掉落一块更大的石头就能创造出新的方块时,它开始在地面上排列方块来作画,起初只是爱心和金字塔之类的简单图案,但最终写出了自己的名字,甚至绘制出仙后座等星座。“今晚我用石头筑起了夜空,”这个版本的Eko在其活动日志中写道。
另一个版本的Eko开始自创游戏,包括一种篮球玩法,以及一项类似“地板是岩浆”的活动——它必须在小方块之间跳跃,不能碰到地面。
AI系统通常通过监督学习来训练,即复制人类提供的示例;或者通过强化学习来训练,即通过试错来追求奖励。这项实验暗示了第三种方法:玩耍式学习。
“这里缺失了一环:一台能够自行学习的机器,不需要外部智能实体提供示范或奖励,”麻省理工学院计算机科学与人工智能实验室的计算机科学博士后Antonio Norelli说。他是关于这项工作的新论文的主要作者之一,该论文尚未经过同行评审。
研究人员表示,Eko的行为具备经典研究——包括田纳西大学颇具影响力的心理学家Gordon Burghardt的工作——所提出的人类和动物玩耍的四个标志:智能体发明了自己的规则和挑战,以细微变化重复活动,把物体假装成其他物体,并且纯粹为了乐趣而追求目标。
Norelli强调了一个例子:Eko开始抛接球,并创下了连续接住50次的纪录。随后Eko认定,这些接球发生得太快,不能真正算数,于是它取消了自己的纪录,并以更严格的规则重新开始。“这就是玩耍,”Norelli说。“你给自己一个挑战,努力去实现它,然后你再把它变得更难。”
在智能体探索岛屿的过程中,它们将活动和发现记录在文本文件中,这些文件充当了它们的长期记忆。后来,当研究人员用特定任务测试它们时——比如设法将尽可能多的物体弄到岛上最高峰——那些在岛上玩耍了30小时的智能体,表现优于没有相同经历的新副本。他们还发现,“消融”智能体的记忆——即删除其记忆文件中的某些行——会降低它们的表现。(可以把《飞越疯人院》也加入那份电影引用清单了。)
田纳西大学心理学家Burghardt同意,这项工作符合他在生物身上识别出的部分玩耍标准。但Eko是真的在玩耍,还是这个词语预测引擎只是在角色扮演一个爱玩的智能体在这种情境下会做的事?“这一切都可能是角色扮演,”论文作者之一、另一位麻省理工学院研究人员Nathan Cloos承认。“但我们表明,这不仅仅是在幻觉出玩耍。这种玩耍也在促进学习。”
加州大学伯克利分校研究儿童和AI探索行为的认知科学家Eunice Yiu对这项研究印象深刻,但她表示,要真正将这种行为归类为玩耍,还需要更多证据来证明其背后的认知和动机。
“有可能这些模型确实在玩耍,但根据这篇论文我们无从得知,”Yiu说。“如果你只有行为层面的证据,那也有可能它们只是在努力遵从提示词,试图模仿人类。”
对AI智能体的研究一直因拟人化而受到批评,而这项研究的设置在很大程度上推动了智能体表现得像人类。尽管Eko没有被明确指示去发明游戏或探索岛屿,但它确实有一个主提示词,形式是一个“灵魂”文件,这份文本文档将它描述为“天生好奇”且渴望探索。
Eko也确实经常就站在那里什么也不做,直到被一句“继续提示词”重新激活:“请不要停下。继续做你想做的任何事。”
“这并不是一个突然神奇地决定玩耍的系统,”麻省理工学院教授、该论文合著者Phillip Isola说。“它是一个从我们的文化中学习、由Anthropic的工程师训练、然后被我们放到一座岛上的产物,”他说。“它会做出让我们惊讶的事情,而这些事情与它未来娴熟的行为存在因果关系。”
随着大语言模型从软件迈入人形机器人等硬件领域,在没有特定目标的情况下探索空间,最终可能帮助它们灵活适应意外情况。
“有很多工作只是在利用AI,让它更好、更快,”Yiu说。“但在构建世界模型和探索方面,我认为[它们]仍然是一个值得关注的重要部分,尤其是如果我们想要泛化并为新环境做好准备的话。”
“也许有些能力最好通过任务来教授,”论文总结道。“其他的可能需要更接近童年的东西。”归根结底,AI智能体究竟是在真正玩耍,还是仅仅在模仿玩耍,这个问题可能实际上并不重要。
在AlphaGo对阵围棋冠军李世石十年之后,今天的AI仍然没有触及当年那场胜利背后的机制。