MIT 的 Alex Zhang 谈递归语言模型 RLM：让模型把自身提示词当作外部对象

虽然我们通常会在播客里报道业界动态，但每隔一段时间，我们也会表彰一位显然正在崛起的明星博士生。2024年，我们介绍了Shunyu Yao，他后来在OpenAI打造了Operator，如今是腾讯的首席AI科学家。2025年，我们介绍了Jack Morris，他后来联合创立了估值6亿美元的Engram，如今是持续学习领域的领军人物。

今年，我们很荣幸介绍MIT的Alex Zhang的工作。

从GPU内核和KernelBench，到递归语言模型、Mismanaged Geniuses以及大规模多智能体集群，Alex Zhang正在探索：把日益强大的模型包裹在原始系统之中，究竟让我们在桌面上留下了多少能力。

RLM在今年年初刷屏了时间线：

alex zhang @a1zhang 就像2025年从语言模型转向推理模型那样，我们认为2026年的主题将完全是从转向递归语言模型（RLM）。

事实证明，如果你允许模型把*自己的提示词*当作外部……中的一个对象来处理，它们可以强大得多 2026年1月2日 晚上9:14 · 203万次查看 247条回复 · 1.07万次转发 · 7290次点赞 而一个基于RLM的harness是首个在OpenAI的Astra之前接近解决ARC-AGI-3的方案：

一个用于编程和长时间自主任务的自改进RLM harness。

通过程序化工具调用、将上下文作为变量、多智能体消息传递以及可自我修改的harness状态，它被设计得既token高效又富有表现力。2026年8月5日 晚上7:34 · 322万次查看 400条回复 · 840次转发 · 8170次点赞 甚至在今天，它还在影响新的研究，而这些研究的影响比RLM更为极端：

Rulin Shao @RulinShao ‼️上下文管理的苦涩教训：让语言模型不受限制地控制其上下文，胜过人类设计的SOTA！

隆重推出🩵上下文语言模型（CLM）🩵 - 原生管理自己的上下文 - 将上下文视为文件 - 在CLM权重中学习策略，无需harness 2026年9月30日 下午1:03 · 38.9万次查看 82条回复 · 251次转发 · 1940次点赞

我们深入探讨了GPU Mode和AI编写的内核、研究品味以及为什么学者应该押注业界实验室不会做的赌注、GEV以及标准自回归语言模型的替代方案，还有把harness视为组合式泛化器的理念。Alex解释了RLM、上下文卸载、程序化子智能体调用、Prime Agent、持久化子智能体，以及为什么未来的“语言模型”实际上可能是一个隐藏在简单界面之下的隐形智能体集群。我们还讨论了OpenAI的大规模智能体实验、Kimi集群、Sakana AI的开放式研究、推测性程序化工具调用、能力悬置、Neuralese，以及Alex认为下一个重大研究机会可能在哪里。

为什么AI生成的GPU内核仍然为人类专业知识留下大量空间

一个专家洞见如何可能取代海量的暴力token搜索

为什么博士生应该押注那些最初看起来琐碎、古怪或毫无意义的研究

SWE-bench、RLM、ReAct和Quiet-STaR揭示了关于研究品味的什么

GEV，以及为什么语言模型不必意味着自回归的文本到文本解码器

为什么Claude Code、Codex和Pi在结构上比它们看起来更相似

harness设计如何改善跨任务和跨领域的组合式泛化

RLM：上下文卸载、代码执行、递归子智能体和共享内存

Prime Agent、持续harness和持久的智能体间通信

为什么你未来查询的模型可能暗中是一整个集群或脚手架

OpenAI的1万智能体实验、130B输出token和约4000万美元等效成本的问题求解

为什么智能体集群的很大一部分可能是浪费的搜索——以及为什么收敛仍然很难

Kimi与OpenAI以及多智能体系统的不同方法

开放性、Sakana AI，以及在海量生成工作中寻找隐藏的珍宝

为什么当前的前沿模型可能已经存在巨大的能力悬置

推测性程序化工具调用以及与生成重叠的工具执行

英语、代码还是全新的“Neuralese”会限制模型的推理方式

AI for science、快速变化的基准，以及Alex如何选择押注哪些研究问题

网站：alexzhang13.github.io

X：@a1zhang

00:00:00 引言

00:07:38 人类专业知识 vs. 暴力AI搜索

00:19:28 GEV与重新思考语言模型

00:36:42 作为组合式泛化器的Harness

00:44:24 RLM详解

00:52:01 Prime Agent与持久化子智能体

00:57:41 RLM在现实中的应用

01:00:30 OpenAI集群与语言模型的未来

01:07:26 开放性与Sakana AI

01:15:52 Kimi vs. OpenAI智能体集群

引言：Alex Zhang、RLM与GPU Mode Swyx [00:00:00]：好的，我们和Alex Zhang一起在演播室里，我想他最出名的是RLM，但你还有几个其他身份。欢迎来到节目。

Alex Zhang [00:00:12]：是的。谢谢你邀请我。

Swyx [00:00:13]：是的。我想还有GPU Mode？

Alex Zhang [00:00:15]：是的，还有GPU Mode。

Swyx [00:00:16]：你是被Mark Saroufim引荐进来的。不是每个人都能得到那种欢迎。

Alex Zhang [00:00:19]：对。是的。是的。我和GPU Mode的所有人都很熟，所以是的

Swyx [00:00:23]：是的

Alex Zhang [00:00:23]：我们经常以各种身份一起合作，甚至超出GPU Mode本身，所以。

Swyx [00:00:29]：是的。我们能不能解释一下，让那些不太了解的人也知道这件事。它其实就是一个——它是一个Discord。它以前大概是专注于CUDA Mode，后来稍微泛化了一些。它是由Mark创办的。

Alex Zhang [00:00:41]：是的。

Swyx [00:00:42]：它基本上就像。对我来说，它就像是PyTorch团队的招聘渠道。

Swyx [00:00:45]：然后你离开了PyTorch。

Alex Zhang [00:00:47]：是的。

Alex Zhang [00:00:49]：是的。所以它以前是，我想它其实是在我上大学的时候创办的，大概在2023年。我想它是由Mark、Andreas和Jeremy Howard创办的。最初的设想就是，它是一个GPU——或者说它是一个专门用来学习如何编写GPU内核的Discord，他们还会举办讲座。基本上就仅此而已。我之所以对它感兴趣，是因为我当时在写GPU内核。那其实完全是出于偶然。我当时在Snapchat实习，而且

Swyx [00:01:22]：Rexis。

Alex Zhang [00:01:23]：是的，我对Rexis非常厌倦。所以，他们有一个项目，他们有兴趣写。是一篇叫Infinite Attention的论文。那是一篇谷歌的论文。

Swyx [00:01:35]：是的，我们在Paper Club上报道过它。

Alex Zhang [00:01:36]：是的，对。所以我很感兴趣的是，能否在Snapchat为它编写专门的内核。结果并没有。并没有真正做出什么成果，但我加入了GPU Mode。当时它叫CUDA Mode，我想是出于法律原因之类的，他们改了名字。但我认识了Mark，认识了Matei，认识了很多其他深度参与这个社区的人。然后Mark提出了一个叫Popcorn的想法，也就是你们今天看到的排行榜。但总体思路是。我想我们所有人都有这样一种直觉，就是GPU编程非常类似于，如果你们做过竞赛编程的话。它是一种，它并不是。我不是说它们是可迁移的技能。

Swyx [00:02:17]：你有约束条件。你要稍微做点代码高尔夫。

Alex Zhang [00:02:19]：是的。

Swyx [00:02:19]：是的。

Alex Zhang [00:02:19]：是的。而且还有。人们所做的优化空间其实小得惊人。而且人们真正有兴趣优化的内核本身其实并没有那么多。所以我们大致有了这样一个想法：如果你有足够的数据，就像Codeforces有数百万道题那样。如果你能在GPU代码上做到这一点，你就能扩展并自动化GPU内核开发，这对研究人员来说是件大事。因为我认为最大的瓶颈之一。比如，如果你看Mamba，他们发布论文时会附带内核，因为否则你根本无法以任何有意义的方式使用它？而且不是每个人的团队里都有一个Tri Dao。所以我们对这件事非常感兴趣。KernelBench也由此衍生出来，就是：我们能不能让LLM自动化GPU内核代码？我觉得那是一段。那是一段非常有趣的时光。那是在大学和我的博士之间，是的，我和GPU Mode一起做事非常愉快。现在我只是有时帮忙做讲座。我没有那么深度参与了，而且我觉得总的来说，我们没有以前那么多比赛了。但是，是的，我仍然和那里的每个人保持着很多联系。

Swyx [00:03:27]：存在友好的竞争吗？因为我觉得以前做这件事的社区是MLSys、MLPerf

Alex Zhang [00:03:32]：是的

Swyx [00:03:32]：之类的。存在友好的竞争吗？这就像是新一代的MLPerf，还是怎么回事？

Alex Zhang [00:03:38]：GPU Mode的好处在于，它也是一个社区，很多讲座对初学者来说都很容易跟上、提问之类的。而且，比赛在某种程度上，不是次要的，而是你可以参与其中来学习。我觉得对于很多MLSys、MLPerf之类的基准测试，大部分情况下，只有严肃的实验室和公司才会参与。至少是认真参与。这是我对它的理解。我可能说错了。但我觉得，除了GPU Mode之外，现在还有一件非常令人兴奋的事，就是有更多的网站，以及更多从事举办比赛的人。我觉得有这么一个。

Alex Zhang [00:04:21]：我觉得有一个网站叫LeetGPU之类的，就像是GPU问题的LeetCode。

Swyx [00:04:26]：哇。

Alex Zhang [00:04:26]：还有其他的，我。我们，我们已经看到了。有很多这样的东西衍生出来，并在GPU Mode上交流，这非常令人兴奋，因为我觉得GPU编程以前超级小众，就像我当初对它感兴趣的时候。我之所以对它感兴趣，唯一的原因是Tri Dao在普林斯顿做了一场讲座，因为他当时在申请教职。他现在是那里的教职了，但我在2023年听了他的FlashAttention讲座，我当时就想，“哇，这简直是最酷的东西。”

Alex Zhang [00:04:56]：我当时就想，“这就像。这才是所有人都应该研究的东西。”我想，vLLM之类的东西也出来了，当时就想，“哦，我们应该写内核。”但现在，人人都在写内核。每个人。这，这。我觉得作为一个领域，它在某种意义上其实几乎已经饱和了。

Vibhu [00:05:11]：对于想入门的人，有什么有趣的看法吗？所以我认为最大的新闻之一是 GPT-5.6 写出了更高效的内核，因此 Terra 和 Luna 可能便宜 80%。

Alex Zhang [00:05:24]：是的。

Vibhu [00:05:25]：然后我们还看到其他比赛，人们像是在创纪录，他们说，“我们在做一些自动研究循环”，而这些人并没有

Alex Zhang [00:05:34]：对

Vibhu [00:05:34]：任何内核编写的背景，对吧？

Alex Zhang [00:05:36]：是的。所以即使在 GPU Mode 排行榜上，如果你看看很多最近的问题，几乎所有的解决方案都是 AI 生成的。不过，你会注意到在排行榜上。所以有个叫 Gauners 的人，他是 GPU Mode 的非常，非常普通的成员。我们早就知道他是一个超级厉害的 GPU 内核编写者。我们在这个排行榜上发现的一件事是，几乎——他也用 AI 来帮助他做这些解决方案，但大部分时候，是他帮助提示并把它推向某些方向。我们发现，他的内核基本上是前 10 名中唯一一个在实际的、端到端系统中真正稳定的。这确实让人质疑，这不是。就像 GPU 内核有一个验证问题。我们多少知道这一点。自从 KernelBench 发布以来，这就一直是个问题。有很多奖励黑客行为在发生。但你总是——是的，你也注意到，代码行数少了很多，但

Vibhu [00:06:33]：是的，我正想问，这明显吗，还是只是

Alex Zhang [00:06:36]：是的，不，这，这

Vibhu [00:06:36]：好的

Alex Zhang [00:06:36]：这绝对，非常，非常重要，而且我觉得，这真的很有趣，擅长编写 GPU 内核仍然有很多 alpha。

Vibhu [00:06:44]：好的，所以从验证到

Alex Zhang [00:06:45]：确实有，是的。我觉得，就像。这也适用于很多 AI 系统。就像，我认为，即使是最新的数学证明之类的，也不一定意味着数学家过时了。这些公司仍然雇用数学家，来做，无论是数据标注工作，还是仅仅引导模型解决问题。就像，在这些事情上有知识仍然有很多 alpha，所以。

Swyx [00:07:12]：只是知识，还是也有更多的规划，是否有一种涌现的规划风格效果更好？

Alex Zhang [00:07:22]：我觉得这是，这是一种混合。也许这就是你的意思，就像对

Swyx [00:07:27]：类似那样

Alex Zhang [00:07:28]：如何解决问题的直觉。

Swyx [00:07:29]：比如，我总是把我的代码画成图。

Alex Zhang [00:07:31]：是的。

Swyx [00:07:31]：对吧？

Alex Zhang [00:07:31]：是的。

Swyx [00:07:31]：然后，如果图中有我不理解的部分，我就一直工作到理解它为止。否则，就不允许。

Alex Zhang [00:07:37]：是的。

Swyx [00:07:38]：是的。

Alex Zhang [00:07:38]：所以我觉得这是，这是这些东西的混合，就像，工作的人。就像，知道如何看这些问题以及如何解决它们的人，也知道如何使用 AI 来做这些。因为，你就像一个非常强的验证者。就像，如果你有知识——或者如果你知道该做什么，而且你也。就像，我觉得我们用所有这些智能体集群之类的东西发现的一件事是，当你把足够的算力投入一个问题时，你就能充分探索那个问题的解决方案。但通常，也许你可以在某件事上烧掉 1000 亿或一万亿个 token，但如果你引入一个对问题有所了解的人，他们可以为模型发现一些东西，那会抹去那一万亿 token 的花费。这不是，这不是很清楚，这里的确切趋势是什么。但我觉得，现在野外仍然有太多我们想解决的问题，而且我们无法承受总是尽可能多地投入算力。就像，所有这些事情仍然有一个效率方面，这非常重要。

Swyx [00:08:41]：是否存在一个理论上的正确答案，你只需根据物理计算，然后你就接近物理极限？

Alex Zhang [00:08:49]：是的。所以对于 GPU 内核，你可以计算。实际上有时计算起来并不那么容易，取决于问题有多复杂。对于矩阵乘法，很容易计算这个，就像光速一样的估计，即最快的内核可以是什么。而且，这也假设，也许你所有的数据都从 CPU 开始，或者也许它从 GPU 上的 DRAM 开始，等等。这会稍微改变这些数字，但

Swyx [00:09:18]：数据传输以及所有这些，是的。

Alex Zhang [00:09:20]：是的。但我要说，很多时候并不清楚是否有可能达到这个理论数字，你明白我的意思吗？这假设了完美的重叠和数据传输，而且可能存在一些你无法绕开的瓶颈。但通常，内核甚至差得很远。我们写的那些离这个数字差得远，根本谈不上有意义。

Swyx [00:09:43]：是的。那么重要的是速度吗？你显然也关心内存，而内存

Alex Zhang [00:09:48]：嗯

Swyx [00:09:48]：会影响速度吧？你关心功耗吗？我们今年最受欢迎的播客之一就是 Geoff Dean，他说：“其实我只是追踪微焦耳，或者纳焦耳、皮焦耳。”

Alex Zhang [00:09:59]：是的，如今通常是皮焦耳。

Swyx [00:10:01]：皮焦耳。

Alex Zhang [00:10:01]：是的。

Swyx [00:10:01]：你关心这个吗？

Alex Zhang [00:10:03]：我不关心。

Alex Zhang [00:10:04]：是的。我猜也许我并不，我并不那么

Swyx [00:10:06]：但这里的一切都是速度，对吧？就像

Alex Zhang [00:10:07]：这里的一切都是速度

Swyx [00:10:08]：没人在数皮焦耳。

Alex Zhang [00:10:09]：但我——这里有个需要注意的地方，我认为，单个内核语境下的速度和更大问题（比如 N10 模型）语境下的速度是不同的。因为有一点需要考虑，这也是为什么说清楚“光速”指的是什么很重要，因为在这些内核的情况下，我们总是从所有东西都在 HBM 里开始，对吧？但你可以想象，一个端到端的模型，你可能想在两层之间做的事是牺牲第一个操作的速度，把东西留在缓存里供第二个操作使用。而这些事情，你没法用这类内核孤立地得到。人们把这叫做融合，或者

Swyx [00:11:01]：巨型内核

Alex Zhang [00:11:02]：内核融合问题。是的，或者叫巨型内核之类的东西。它通常只在大多数情况下受内存限制时才适用。但这也涉及一个问题：随着这些模型变得更好，我们是不是就应该直接生成巨型内核？那是我们想要的吗？

Vibhu [00:11:20]：你的看法是什么？

Alex Zhang [00:11:21]：我认为这真的很难，因为你需要数据来做这件事。而且我觉得，我还没在现实中见过这样的例子：我们在没有任何示例的情况下，引导出解决一类非常困难问题的能力。我觉得这件事可能没那么有趣的另一个原因是，在单个内核的层面上，第一，它们没那么复杂，第二，你多少能确信单个内核里没有那么多结构。但在巨型内核里，我更倾向于相信编译器在这里会更好。比如某个编译器在更高层的算子之上，这是合理的，因为总的来说，实际上我认为巨型内核的各个部分非常可组合，就是那些单个内核。有些地方你可能想做奇怪的融合之类的，但总的来说，我认为这些情况编译器大概能处理。据我所知，有一家公司正在做这个，他们也在 GPU Mode 上做过一些演讲。

Swyx [00:12:28]：是的，我想基本上把所有 GPU Mode 的讨论都集中到这里，因为显然还有其他部分

Alex Zhang [00:12:32]：对。

Swyx [00:12:32]：我们需要继续推进。

Vibhu [00:12:33]：我觉得有件事值得提一下。你们确实办了很多非常好的讲座。它们都在 YouTube 上。人们可以关注。而且你

Alex Zhang [00:12:39]：是的

Vibhu [00:12:39]：主导了相当一部分。你仍然参与很多。

Alex Zhang [00:12:41]：我以前参与。有时我还会参与。我觉得现在主要是 Mark。通常是 Mark 来做这些。Matei 有时也会做，但是，是的，我强烈推荐它们。它们是非常好的资源。我觉得人们在那里分享的东西多到有点疯狂，所以是的。

Swyx [00:12:59]：因为如果你在那里，你非常，你就是完全对的受众？

Alex Zhang [00:13:03]：是的，完全正确。

Swyx [00:13:03]：这不会触达主流。

Alex Zhang [00:13:04]：而且还有很多入门材料，我们也放上去了，我觉得对人们很有用。

Swyx [00:13:10]：KernelBench 挺有影响力的。我只是想看看，那是去年的事了。

Alex Zhang [00:13:13]：是的。

Swyx [00:13:14]：你还有什么正在进行的工作想让大家关注？因为显然你参与了这个

Alex Zhang [00:13:20]：是的

Swyx [00:13:20]：领域。

Alex Zhang [00:13:20]：是的。我或许讲讲背景故事，其实我参与了很多基准测试，或者说以前参与过，也许是在我读博之前。这始于我在普林斯顿的时候。我在那里和 SWE-bench 团队合作。

Swyx [00:13:33]：John、Carlos

Alex Zhang [00:13:33]：John、Carlos

Swyx [00:13:34]：Ofir

Alex Zhang [00:13:34]：还有 Ofir。他们都很棒。就像

Swyx [00:13:36]：Karthik

Alex Zhang [00:13:36]：我很喜欢他们。是的。

Swyx [00:13:37]：基本上就是，我觉得人们没意识到有多少基准测试来自同一个团队

Alex Zhang [00:13:42]：是的

Swyx [00:13:42]：在普林斯顿。

Alex Zhang [00:13:44]：这很疯狂。

Swyx [00:13:45]：是 Xun Yu 吗？

Alex Zhang [00:13:45]：是的。对。

Swyx [00:13:46]：我们之前请他上过播客。现在他好像在管理腾讯。

Alex Zhang [00:13:48]：是啊，现在他就像个超级明星了。我认识他的时候，他在给我朋友 Michael Tang 做指导，Michael Tang 现在在 Anthropic，但他们经常合作。我们当时就像是 Karthik 实验室里的两个本科生。我——后来也有其他人陆续加入。不过没错，Xun Yu 很棒。我直到后来，离开之后，才知道他居然是个超级明星，不过

Swyx [00:14:12]：是啊。好吧，所以博士生很少。你这样的就是下一个。大概一年一次，我们会介绍某个人，基本上整个博士生涯都像是踩在点子上。

Swyx [00:14:25]：这样的人并不多。Xun Yu 显然就是其中之一。Jack Morris 是另一个。而且，我们在节目开始前聊过研究品味。

Swyx [00:14:33]：对吧？就好像有些研究生就是拥有非常受眷顾的职业生涯，基本上就是，对，这东西会留下来、有相关性、大家都该知道。

Alex Zhang [00:14:42]：是啊。

Swyx [00:14:42]：而其他人，就什么都没有。

Alex Zhang [00:14:44]：我觉得即使在产业实验室里的人身上也是如此。我觉得只是研究生更显眼。所以你就看到，有些人

Swyx [00:14:56]：是啊，你可以发表

Alex Zhang [00:14:57]：他们真的很幸运，或者说是幸运和非常聪明等等因素的混合。我觉得研究品味也是如此，至少在我的情况下，它是通过机会培养出来的。我——我很幸运走了我走的那条路，先在普林斯顿工作，后来又在 MIT 找到了我的 Omar。他是个很棒的导师。不过我要说，我发现研究生或学术界最成功的研究，往往出现在人们关心那些产业里大多数人可能不看的问题时。我觉得问题就在于，很多研究生做的东西是为了对产业实验室有好处、看起来好看。比如，他们会做某个现在很流行的基准测试。我觉得 2023 年的基准测试和现在是完全不同的情况。有很多人做 harness、meta-harness，以及针对 XYZ 任务的特定 harness。你仔细想想，有人做这个的原因，可能是因为围绕我们今天的模型有一个清晰的目标，就是“这是我想看到的”。但比如，我拿 RLM，也就是递归语言模型那篇论文举例，因为我觉得它是个超级简单的想法。我觉得它刚出来的时候，很多人看到这种东西会说：“这到底有什么意义？”

Swyx [00:16:27]：或者说太酷了。

Alex Zhang [00:16:28]：是啊。就像为什么，什么？这不就是子智能体之类的吗，对吧？

Alex Zhang [00:16:32]：我觉得当你得到这样的反应时，这几乎是个好迹象，因为很明显人们没有在思考它的目的是什么。我再举一个例子，比如 SWE-bench。SWE-bench 出来的时候，Ofir 很喜欢讲这个故事。它刚出来时，没人在意。大家都说：“这是个不可能完成的任务。我们为什么会把它当作基准测试？”直到 Devin 出来，大家才说：“哇，这是我们要去攀登的东西。”我觉得这很适用于。你往往会看到很多想法。我觉得。我最喜欢的例子大概是 Eric Seligman 的工作，比如 STaR 和 Quiet-STaR。我觉得你读那篇论文时，至少我第一次读的时候，我就想：“这不就是个显而易见的想法吗？”也许不是。我不知道。我当时想：“哦，这看起来真的很简单。”或者像思维链，也是一样。或者像 Xun Yu 的 ReAct。就是，好吧，是啊，当然。但你仔细想想，为什么。这篇论文的价值是什么？我觉得它来自它讲述了一点关于你希望这个领域变成什么样的故事。而这在学术界很难做到，因为如果你看所有这些论文，Quiet-STaR、ReAct、RLM、SWE-bench，这些论文都不是。它不是像 GPT-6 Astro 发布那样？不是大家都说：“天哪，我现在就要用这个，这是世界上最好的东西。”学术界至少现在负担不起这样做。我。我认为这应该改变，有一大堆理由，但我觉得就像。如果你没有。 作为一名博士生，我认为你处于一个非常独特的位置，基本上你可以研究任何你想研究的东西。如果你不利用这一点，去做那些没人关心、或者人们觉得微不足道的事情，比如“哦，我想过这个，但我不怎么用”，我就觉得，最终这项研究永远不会那么有趣，因为如果你想留在学术界，你就需要下大赌注。否则，我觉得，那就直接去产业实验室吧。他们有大量资源、大量人才。为什么要在一个你没有多少资源、周围甚至没多少人的领域里限制自己呢？我觉得这就。这真的就归结为，大赌注。就像，你就是要下大赌注，而且，很多都会失败？就像，那是。这很自然。但我觉得

Alex Zhang [00:18:55]：也就是说，作为一名博士生，这是你相对于其他实验室任何一个人最大的优势，因为你不用应付官僚主义和其他这些事情。

Swyx [00:19:07]：有道理。

Alex Zhang [00:19:07]：是的。

Swyx [00:19:08]：我问过很多人这个问题，通常他们都含糊带过。所以我觉得。我很欣赏你实际上给出了一个深思熟虑的回答，就像，不，这是你的不公平优势，因为基本上其他一切都在对你不利。

Alex Zhang [00:19:20]：是的，没错。所以，说实话。我会拿 Jev 作为例子，因为它不是学术

Swyx [00:19:26]：哇，好吧。

Alex Zhang [00:19:27]：它不是学术项目。

Swyx [00:19:28]：是的。

Alex Zhang [00:19:28]：我想提这一点，因为这也发生在 RLM 上，而且它发生在许多其他工作上。比如，东西会被过度炒作，对吧？在某种程度上，某个东西被过度炒作，然后人们就说：“为什么这个被过度炒作？”“这很琐碎。这很愚蠢。”我在 Jev 上也看到了同样的情况，因为我觉得发布的时候就像。有这一整套关于，学术界，或者他们不是学术团体，但是，人们必须做品牌宣传，他们必须，某种程度上营销他们的研究。所以，我理解，但我觉得有很多讨论说 Jev 只是，我们多年来早就知道的东西。我觉得这有点错过了重点，就是为什么这样一个系统如此有趣？为什么它不只是某个愚蠢的 NLP 分类器，就像我们在机器学习入门课上一直在做的那样？我觉得 Jev 真正有趣的地方在于，它开启了这个问题：语言模型是正确的吗？就像，在它们现有的形式下，我们能否考虑文本到文本之外的不同设计空间？因为他们所做的基本上是在说：“我会利用这个语言模型骨干。我知道它捕捉了大量关于语言的信息，但我要改变模型的输出空间，给你一个权衡，就是我会做非常快的推理。”比如，如果你对这个问题有某种先验，比如说我只需要做二分类。我会让我的语言模型做这个并支付 400 倍的成本吗？不会。那——那很傻，对吧？ 而且我觉得在很长一段时间里，因为实验室是唯一控制这些东西的地方，你永远不会用 GPT-4 或 GPT-6 或 Fable 之外的东西，因为它们是最好的模型。但正因为如此，人们已经有点习惯了这个想法：语言模型就是一个自回归解码器。我们已经接受了这一点。我觉得当 RLM 出来时，也是一样。比如，我收到的一条评论，一个非常常见的批评是：“这不是语言模型。”或者“当我看到这个时，我以为这是一个新架构，但实际上不是。”我对这个的回应是：“嗯，语言模型只是对语言建模。它不一定是这个 transformer 解码器，”？而 Jev 真正有趣的地方在于，我们现在有了一个新的

Alex Zhang [00:21:49]：可调的东西，就是输出空间是什么，以及这如何影响推理延迟？我觉得我们实际上可以开始对语言模型本身的各个部分提出这个问题。我们在循环 transformer 上也看到了这一点。类似的想法，围绕它的很多关注都是：“这是个愚蠢的想法。”“为什么？谁在乎这个？”但就像，这是一个简单的想法，但它实际上。它开启了一整套新问题，我觉得，特别是如果你是博士生，这些正是你想回答的问题。因为我觉得就像我们不知道。例如对于 Jev，我们不知道我们能把它推进多远。对于循环 transformer，我们也不知道我们能把它推进多远。如果你只循环模型的一个子集呢？如果你路由到，比如只。比如你有一些路由器指向模型的不同部分？比如，你能在模型内部模仿你在 harness 中所做的事情吗？你能在 harness 选择和模型架构选择之间架起什么桥梁？这些都是我认为像这样的工作所开启的问题，而那，真的很令人兴奋。特别是 Jev，当我看到它时，我就想：“这对 RLM 实际上非常有用。”我觉得它，它。这很合理，因为 RLM 或 swarm 或类似系统的最大瓶颈是它们很慢。当你一直进行多次语言模型调用时，你没有正确地分配你的计算，因为，也许有些琐碎的事情你只想让一个简单模型去做，但你做不到，因为你的语言模型就是这么一个笨重的东西？所以我很兴奋。我觉得我们将开始看到超越标准前沿模型的新类型模型出现，而那就像。 你可以用这些做非常多的事情，比如新的权衡取舍。

Swyx [00:23:34]：我还要提一下 Thinky 和他们的交互模型。

Alex Zhang [00:23:36]：是的。对。又一个很好的例子。

Swyx [00:23:38]：对。所以，基本上就是试着打破从序列到序列、仅解码器的范式，然后真的去做点别的什么。

Alex Zhang [00:23:46]：对。

Vibhu [00:23:46]：我觉得这里有一个层面，就是如果你想竞争，你是不会去和一家做自回归的前沿实验室竞争的

Alex Zhang [00:23:54]：不会。

Vibhu [00:23:54]：解码器。就是他们拥有的算力扩展资源量，就连 Thinky 也不会。好吧，也许有少数几家之一可以，但至少你在这方面真的做不了什么。

Alex Zhang [00:24:06]：我对 Thinky 了解不太多，我也不想说什么，但就像如果他们的策略只是复制 OpenAI 或 Anthropic，那是个糟糕的策略。

Alex Zhang [00:24:15]：因为，嗯，因为他们就是没有。你得从这样的角度去想，就是，你有什么优势？而如果你要用同样的配置。我确信他们不是，但就像如果你要做同样的配置，你基本上就是在你能控制的东西上竞争，也就是数据和算力，而显然他们在这方面竞争不过前沿实验室。所以是的，这很合理，如果你是一家新实验室，就像。其实，我不知道你会不会把他们算作新实验室，但我猜，就像

Vibhu [00:24:40]：对。这就是为什么他们在那里。

Alex Zhang [00:24:42]：我猜他们算是比较奇怪的一个，对。

Vibhu [00:24:43]：他们在他们的名单上。他们发布了 Inkling。就像，他们不能。

Alex Zhang [00:24:46]：除了 OpenAI 或 Anthropic，也许还有 Meta 和 GDM，你就是得做点别的？就像，就是。这是令人难过的现实，但我觉得。我其实觉得这是件好事。我很高兴，就是，规模扩展有效，而这些公司会一直这么做，因为它打开了，就是，潜在的新玩家的可能性，比如如果他们发现了什么真正有趣的东西。因为我有点怀疑这种事是否真的在前沿实验室里认真进行，因为就像你为什么要那么做？就像，当旧的赌注已经奏效时，你为什么要冒着把大量算力分配给新赌注的风险？所以

Vibhu [00:25:24]：而我觉得这正是催生很多新实验室的原因，对吧？

Alex Zhang [00:25:27]：对。

Vibhu [00:25:27]：你有一个副线赌注，但你拿不到算力，然后你就想

Alex Zhang [00:25:30]：对

Vibhu [00:25:30]：“好吧，我去，我去做那个。”

Alex Zhang [00:25:31]：正是。

Vibhu [00:25:31]：而你说的潜在上行空间的例子，就是像 Jev 这样的东西，它便宜了 X 百倍，横空出世，也许它就是语言模型。

Alex Zhang [00:25:41]：对。

Vibhu [00:25:41]：在这个例子里，它就是不一样。

Alex Zhang [00:25:42]：对。

Swyx [00:25:43]：对。

Swyx [00:25:44]：所以不对 Jev 到底是什么做任何猜测？

Alex Zhang [00:25:46]：我猜我对它可能是什么有一些猜测。我见过一些人说，比如，“哦，它像是扩散类的东西。”我猜那

Swyx [00:25:56]：也就是并行解码，对吧？

Alex Zhang [00:25:58]：对，并行解码。说实话，我觉得不管它实际上是什么，因为我觉得你可以。我见过一些，就是，它的开源复现。他们所做的真正让我兴奋的地方在于，我并不完全确定他们的优化目标是什么，以及他们是如何训练的。而我觉得，就像，这对 RLM 来说也是我们一直在思考的一件事，就是，好吧，RLM 是个非常简单的想法。如果我发表这篇论文，现在任何人都能用它。但 RLM 的实际价值取决于你是否能正确地训练它，以及你是否也许能围绕这个系统塑造某种架构，让它变得非常出色。而这正是，就是，我猜我正在积极研究的东西。但我觉得对他们来说，就是，他们找到了一种训练这个系统的方法，这完全不简单。就像，我其实真的不知道他们是怎么做到的。我在网上见过一些比较，有些人声称他们用了 Qwen，或者他们在 Qwen 之上做了后训练，但你用的每一个开源 Qwen 都会更差，因为他们为训练它所做的任何事情显然效果非常好。所以那，那非常令人兴奋。

Swyx [00:27:04]：校准这个要素，是个很少被讨论的话题，我觉得人们甚至都不知道或理解它。我们在与 Hugging Face 的 Clementine Foley 的对话中谈到了它，她以前在 Hugging Face 负责跑 evals，基本上就是这样一个想法：模型被调教成给出最可能的下一个 token。但当你问它们“你有多确定？”时，它们会对你撒谎。因为它们只会给你最可能的下一个答案，而不是真的去校准，比如说，不，我们来校准一下。比如我实际上有百分之五十的把握，或者我有百分之二十的把握，然后我们试着去校准它。我想说，如果有的话，我觉得实际上围绕这个生成合成数据相当容易，因为你可以大致看到真相，然后合成生成一堆答案，让 Jev 来分类，再与真实答案对比。

Alex Zhang [00:27:52]：哦，我明白了。

Swyx [00:27:52]：那会是我对此的逆向工程。

Alex Zhang [00:27:54]：对。

Swyx [00:27:54]：我其实。我觉得校准可能是被低估的。就像，人们只是把它当作一个非常快的分类器来用，但他们实际上甚至没有用到概率或校准估计。

Alex Zhang [00:28:04]：对。

Vibhu [00:28:04]：我觉得它还是被误解了，再重申一下。当你问模型“你有多确定？”时，它会吐出一个，百分之四十三。最大的区别在于，这是一个有依据的分类，对吧？

Alex Zhang [00:28:16]：对。对，我，我非常期待看到人们用这个模型做什么。它能解决一切吗？比如，不，当然不能。但我觉得它解决了一类我们传统上一直很难处理的问题，那就是低延迟的事情。所以我特别喜欢那些游戏的例子。那实际上就像。我

Swyx [00:28:34]：对，那个 Doom 的例子

Alex Zhang [00:28:35]：对

Swyx [00:28:35]：非常好。

Alex Zhang [00:28:35]：我有一个关于语言模型玩电子游戏的基准测试。我一直很着迷于你是否能让一个智能系统玩新游戏以及诸如此类的事情。所以我觉得他们有一种独特的方式来做这件事，把语言和理解捕捉进一个快速的、非常快的模型里，这真的很酷。

Vibhu [00:28:59]：哦，既然你聊到这个话题，关于电子游戏你有什么想指出的吗？

Alex Zhang [00:29:02]：哦，对。

Vibhu [00:29:03]：这是。你确实在任何项目上做过一个基准测试，对吧？

Alex Zhang [00:29:05]：所以，对。我猜这些数字已经非常过时了

Vibhu [00:29:08]：对。

Alex Zhang [00:29:08]：因为很多模型已经非常不同了。而且我实际上看到有人在跑。外面有一些人在这些游戏上跑更新的模型，这真的很酷。我猜这个基准测试的总体前提是，我们只是想看看视觉语言模型在把延迟约束也算进去的情况下接入游戏，是否足够好。因为这实际上。我是在 Claude Plays Pokémon 出来之后马上提出这个的。

Alex Zhang [00:29:33]：所以那大概是两年前，我猜现在算是上古了。但我觉得这套任务真正酷的地方在于，就游戏种类而言它非常多样。而且我觉得大多数游戏都是人们知道或者以前见过的游戏。我看到了，对，Jeff 在玩 Doom。我得说我不认为。我觉得他们只是在玩很简单的关卡之类的。但说实话，大多数模型仍然做不到。或者我实际上不认为有任何模型能有意义地通关这些游戏。比如有些游戏它们能。我觉得我见过 Astra 能通关 Kirby 那个游戏。而且我们为这个基准测试有意设计了一个非常精简的 harness。我待会儿会讲到 harness 这一点，因为我觉得有一整场对话可以聊，比如 harness 的价值是什么？模型 harness 的目的到底是什么？但总的来说，我觉得它。对，我希望很快或不久就能看到更新的模型把所有这些游戏都打通。

Vibhu [00:30:35]：对，很有意思。比如，早先的 Cloud Place Pokemon，它们从 RAM 读取状态，看哪些地块可以走之类的。我们很久以前和他们做过一期播客。

Alex Zhang [00:30:45]：明白了。

Vibhu [00:30:46]：对。就是好玩。

Swyx [00:30:46]：对，而且类似。比如，Jeff 没有视觉

Alex Zhang [00:30:48]：对

Swyx [00:30:48]：所以你得把

Alex Zhang [00:30:50]：对

Swyx [00:30:50]：这些，比如游戏状态之类的东西喂进去。我们直接进入 harness 那部分吧

Alex Zhang [00:30:54]：太好了

Swyx [00:30:54]：因为是你提起的。语言模型 harness 是组合式泛化器。

Alex Zhang [00:30:59]：对。

Vibhu [00:31:00]：那段你读得很吃力。

Alex Zhang [00:31:01]：解释一下。对。好。所以我对人们看待 harness 的方式可能一直有点不满意，因为人们会这样比较：“哦，我喜欢 Claude Code，我喜欢 Codex，我喜欢 Pi。”或者说：“不，我喜欢 Oh My Pi，我喜欢 Prime Agent。”说实话，我觉得它们全都一样。这些 harness 的大多数设计决策，或者说围绕它们的设计选择，都是一样的。也许 Prime Agent 有点不同，因为它本质上就是一个 RLM。但总的来说，我觉得我们可以在 harness 上更有创造力得多。我的意思是，如果我们从这样一个角度来思考：harness 到底在为模型做什么？基本上，当你试图解决一个问题，并且想用一个语言模型来解决它，比如一个非常困难的任务时，我们发现的一件事是，下一 token 预测是一种非常别扭的形式，用来完成很多这类任务。举个例子，拿 SWE-bench 来说。当你在浏览一个代码库时，你能靠一次语言模型调用就想清楚怎么完成这一切吗？比如你只说一句“解决代码”，或者“在这个代码库上解决我的查询”。不行。所以我们依赖 harness 来帮你做这类事情。我觉得有意思的是，harness 是一个非常带有主观倾向的程序，规定了你想如何让语言模型适配一个问题。我提这个是因为，当我们思考 harness 在做什么时，我们真的应该想一想：harness 里的哪些选择让语言模型能够解决这个任务？以及我能不能干脆就让一个语言模型直接做这件事？ 因为如果你想一想，既然循环 transformer 现在已经出现了，我觉得真正有意思的是，你在某种程度上也可以用 harness 来对循环 transformer 建模，对吧？你只是在循环调用模型。现在你可以说“哦，我不是在解码”，所以这有点不同。但总的来说，我们不知为何一直固守着同样的模型架构选择，永远如此。而且，对此有很多论据，但很明显，我们现在是围绕 harness rollout 来训练模型的。于是就出现了这种非常别扭的、在 harness 之上做训练的方式，也就是我们训练一个语言模型在某个 harness 内行动，但现在这变成了一个非常长的、也许是多智能体的 rollout。而且有一些非常别扭、取巧的做法。所以这篇博客讲的是：好吧，你可以这样理解这里发生的事——如果 harness 基本上是在帮助模型解决某个特定任务，那么不同的 harness 设计选择是否真的能做一些更有意义的事，而不只是“这里有一些能帮到你的工具调用。这里有一种在你的代码库里 grep 的方式。”所以这实际上……这篇博客的想法是和 RLM 的想法一起产生的。我们只是没有那样包装它。而且我觉得这确实是真的。围绕 RLM 还有很多其他想法，我们会陆续发布，但它们从一开始就都在那里了。这些都是围绕……的设计决策。我觉得 RLM 让我喜欢的地方在于，我之前对很多不同抽象做过许多迭代和版本，最终 RLM 是最合理的。但有很多不公开的原因解释了为什么是这样。你会看到的。 所以在这个例子里，我们在 RLM 中看到的一件事是，如果你充分地把上下文卸载出去，并让模型针对那个上下文写代码，你就会得到一个非常奇怪但有用的性质：当模型在训练中认识到如何解决一个任务时，结果发现许多任务的解决方案非常相似，甚至跨越那些你根本……你甚至都不太清楚解决方案是相似的任务。所以在这个例子里，我们有一个检索任务，还有一个聚合任务，它们的查询非常不同。领域完全不同。而当你在这两个任务上训练一个常规语言模型时，轨迹看起来非常不同。所以你所依赖的，当你……比如说你用 Pi 或 Claude Code 之类的，这些不在本博客里，但我们确实有这些结果。你会发现，这些 harness 在这些问题之间区分得太多，尽管解决方案是一样的。所以我们训练 RLM 时发现的一件事是，当它看到这些问题时，它认为是一样的。它认为这些问题一样的原因是，子智能体看到的是不同的问题，但子智能体在解决一个更简单的子任务，所以你有信心它足够聪明能完成。但就整体的基础策略而言，它们最终看起来是一样的。所以当你训练左边的任务时，比如，它能立刻解决右边的任务。所以如果你去看我们那些图，你会观察到的一件事是，当你只是朴素地在这些任务上训练你的 RLM 时，它们会自然地学会泛化，比如泛化到更长的任务，因为策略基本上是一样的。你只是在修改一个长度变量。 而这实际上也适用于不同的任务，而且它们甚至并不是——它们并不是长度上的不同。它们是完全不同的任务，数学任务与写作任务。但解决方案，那个，比如，元层面的高层解决方案是一样的。所以当你在其中一个任务上训练 RLM 时，它会将这种行为泛化到第二个任务上。这里没有什么魔法。我想这也许就是我想强调的一点。比如

Vibhu [00:36:38]：你会如何用语言表述它们正在学习什么？所以我想你在这里说的是，你在短任务上训练它，它们能泛化到长 8–30 倍的任务上。

Alex Zhang [00:36:47]：是的。

Vibhu [00:36:48]：它们是在学习如何解决这类问题，还是说，它们实际学到的核心东西是什么？

Alex Zhang [00:36:52]：是的。它们是在学习如何以某种长度解决这类问题。而事实证明，当你采用它们学到的策略时，它可以直接迁移到更长的长度上。就像，它们

Vibhu [00:37:05]：是的。

Alex Zhang [00:37:05]：实际上是同一个程序。这一点非常令人兴奋，因为这某种程度上意味着，当你有一个用于训练模型的数据语料库或环境时，希望在于，第一，你可以用更少的环境训练，并泛化到比现有模型通过现有那种朴素训练所能做到的更多的情况。但第二，你仍然想用上你拥有的所有数据。所以当你在这些任务上训练时，希望它能泛化到更广泛的一类问题上。而这一点之所以更令人兴奋，至少在 RLM 或任何递归调用系统的语境下，是因为这个论证在归纳意义上成立。所以，比如，我举个例子，因为我说过，我声称竞赛编程和 GPU 优化使用非常相似的技能组合。模型可以。这个 harness 也许，你可能得用某种方式推它一把，但它可以学到，比如，“好吧，我解决这个 GPU 编程任务的方式和我为竞赛编程学到的东西非常相似。所以我要列出一组解决方案。我会，我会，比如，派生子智能体去列出有希望的解决方案，然后我会，比如，写这个循环来遍历并检查这些解决方案，也许进化它们，并且，比如，针对一个验证器来进化它们。”而在这两个任务之间，这看起来是一样的。但子智能体在做的事情也许是，比如，独特的、有些不同的东西。但就连子智能体在解决的问题，可能实际上也是同样的形式，对吧？因为这是一个，这是一个递归论证。 所以我在整篇博文里想表达的就是，我们应该重新思考 harness 的角色，因为 harness 实际上可以极大地提升模型的泛化能力以及它被给予的数据量。而这并不专属于 RLM。我认为还有一大类尚未被发现的 harness，实际上可以产生类似的特性。把这个论证再延伸一点，我认为你还可以从中推断出，比如，如果我看一个 RLM，一个 RLM 中哪些组件实际上是必要的，以及我是否可以直接训练一个模型来做这件事？我能否训练一个模型在其前向传播中隐式地充当 RLM？这是一个想起来非常奇怪的事情，因为，比如，你可能会说，“哦，代码是不可微的，等等。”但有很多这种行为的近似方法，我们会开始发现它们。而且我认为，比如，我们将看到的不只是，比如，我要设计一个新的编码 harness，使用某种特殊形式的压缩之类。我认为我们可以在这里更有创造力。比如，有，有太多我们可以用这些语言模型做的事情，而我认为我们就是没在做。而且我，比如，对此非常兴奋，因为我认为，比如，我认为我们可以从非常有个性且优秀的 harness 设计中获得真正的收益，这种设计更适合规模化。而这里的意思是，比如，RLM 就是一个非常原始的归纳偏置。比如，这个设计除了与我们目前所做的非常不同之外，没有什么特别之处。但这可能会随着我们可用的数据和环境而扩展得好得多。

Vibhu [00:40:20]：我想，人们大概会问的相反的问题是，当前的 harness 非常通用地偏向于编码，而人们看到这在很多领域都有效。Cloud code 正被用于设计、演示文稿

Alex Zhang [00:40:33]：是的。

Vibhu [00:40:33]：一切。MuseSpark、Grokbot。

Vibhu [00:40:36]：这些是非常简单、不带倾向性的 harness，擅长编码，而且这也在规模化扩展。我想，我们如何改进它们的例子是什么？

Alex Zhang [00:40:48]：是的。让我再提一篇论文，它最近刚出来。就是那篇 harness tax 论文。我想是 Arena 写的。我很喜欢这篇论文，因为它提出了一个我原本就有的先验，基本上就是，大多数

Vibhu [00:41:07]：所以它证实了这个先验。

Alex Zhang [00:41:08]：是的。就像，大多数 harness 选择并不重要，因为

Vibhu [00:41:12]：是的。

Alex Zhang [00:41:13]：所有这些 harness 都是一样的。但我要说，比如，据我理解，Grokbot 实际上与这些其他 harness 的设计方式相当不同，我很喜欢这一点。而且我认为至少从这里可以清楚地看出，比如，我很确定。Anthropic 或 OpenAI 只在自己的 harness 上训练。他们大概不会在竞争对手的 harness 上训练。我猜不会，因为我不知道他们为什么要那样做。但是

Vibhu [00:41:38]：但是，这是你在开源模型中看到的现象，对吧？比如，Qwen 非常擅长使用 open code。

Alex Zhang [00:41:43]：是的。

Vibhu [00:41:43]：它们需要在 harness 中训练。旧的 Gemma 在这方面出了名地差。

Alex Zhang [00:41:47]：是的。

Vibhu [00:41:48]：模型很好，但你需要在 harness 中训练。

Alex Zhang [00:41:50]：不过我认为，随着模型变得更聪明，或者说随着它们变得更好，这种区分变得没那么重要了，因为，比如，如果你拿 Astra 把它放进 open code 里，它不会失控，因为我认为它就是足够好了。我这么说是因为这些不同 harness 之间唯一的好处，在很大程度上，只是成本。而我想说的是，Sugru，如果你把这些模型接入 RLM，它们仍然没那么好。它们还行。我认为这主要是因为，我们围绕训练的那类 harness 就是这一类 harness，这个，比如，pi 循环，这个，比如。我喜欢把它叫做“轨迹即提示词”，意思就是，你把整个 rollout 的轨迹保留为主模型所使用的上下文。即使你使用子智能体，它仍然大致是这种形式。而我认为我们将会。如果我们想探索新的 harness，比如，需要有专门的团队真正去运行有意义的实验，比如，规模化扩展新的 harness，也许是在不同 harness 设计上进行后训练扩展。比如，我认为我们实际上可以从做这类事情中获得非常有意义的知识或收益，无论是 RLM 还是别的什么。这很令人兴奋，因为我认为，比如，如果你大量训练。Fable 在很长一段时间里是 RLM 的最佳模型，因为他们有动态工作流，而且很明显，比如，这是一种在某种程度上被训练出来的能力。即使模型仍然，比如，在 RLM harness 中有点笨，它仍然比其他模型表现好得多。Astra 现在也，比如，足够擅长做这些事情了。但是

Swyx [00:43:33]：等等，这是我们看到 Fable 最适合 RLM 的地方，还是有别的什么

Alex Zhang [00:43:38]：哦，不，我想这些都是内部结果。

Alex Zhang [00:43:40]：是的，我没有，我没有它们

Swyx [00:43:41]：好的

Alex Zhang [00:43:42]：目前是公开的。但总的来说，比如，我认为你可以，你可以很容易地看出我们还没有针对 RLM，比如，工作流进行优化。而我认为如果我们得到能正确做到这一点的模型，它们也会高效得多。你可以就想想，比如，为什么是这样，对吧？

Vibhu [00:44:03]：我想这时候你得用十秒钟说说什么是 RLM。

Alex Zhang [00:44:07]：哦，是的。

Vibhu [00:44:07]：因为这里有很多听众

Swyx [00:44:09]：是的。我们，我们假设了很多知识。

Alex Zhang [00:44:10]：是的。

Swyx [00:44:11]：另外，我认为你。但你已经设定了一些背景

Vibhu [00:44:13]：是的

Swyx [00:44:13]：所以你可以。就像我们刚才说的所有内容

Vibhu [00:44:15]：是的

Swyx [00:44:15]：我们能给 RLM 一个干净、清晰的定义吗？

Alex Zhang [00:44:18]：是的。好的。我想回到那篇博客，那篇

Vibhu [00:44:21]：是的

Alex Zhang [00:44:21]：那篇 compositional generalizers 博客。这一篇。好的。

Swyx [00:44:24]：好的。

Alex Zhang [00:44:24]：这可以说是最棒的了。我希望我能在原论文里就有这个。RLM 基本上就是一种 harness 设计，其中 harness 里唯一的工具就是代码，也就是这种程序化子智能体调用机制，它可以选择把自身作为工具来调用，同时还有其他工具。但所有这些东西都是代码中的函数，而它所处理的上下文始终存储在这个代码环境内部的某个内存中。所以这可以是一个文件系统。比如，这可以是，比如说。我给你们举个例子，Prime Agent。Prime Agent 的轨迹，也就是上下文，甚至包括。当你进行压缩并做所有这些事情时，都存储在磁盘上。所以模型始终可以引用它原始的上下文，即使它被压缩了，而它的所有工具都在，比如说，一个 Python REPL 或 Bash REPL 里运行。所以这。它就像是这种非常原始的抽象。我想说，大多数 harness 的不同之处在于，第一，上下文卸载不是那样做的。顺便说一句，如果你看 Prime Agent，Prime Agent 确实做了上下文卸载，但不是完全彻底。所以，它仍然保持着标准的 code、Codex 循环，也就是把轨迹作为提示词，然后你进行压缩，但它有额外的这种，比如说，上下文被卸载了，而且它只有。Prime Agent 的独特之处在于它唯一的工具是 IPython。所以这就像是围绕 RLM 的那种非常通用的抽象。是的。

Vibhu [00:45:59]：具体来说，RLM 试图解决的核心问题是什么？

Alex Zhang [00:46:02]：是的。

Vibhu [00:46:02]：在某个时候，我想它刚出来的时候，是上下文。

Vibhu [00:46:06]：我把问题转交出去。

Alex Zhang [00:46:06]：是的。所以最初的问题是 harness 在处理长上下文时表现非常糟糕。它们通常只被用来做，比如说，像代码这样的特定事情。它们能处理你的代码库，因为模型是在代码上训练过的。但现在更多是关于这篇博客所讲的内容，也就是组合性，以及这样一个事实，比如说，我认为 harness。我们想要拥有对每一步所采取行动有更多控制权的语言模型系统。而这里的意思是，工具调用非常受限，因为你必须在每一轮都调用它们。比如，你必须调用工具 A，然后工具 B，然后工具 C，而且没有一个你可以随时回溯的中心上下文。而 RLM 正是专门围绕组合性设计的，并且拥有一个你可以随时取用的中心上下文。而这个上下文是围绕现有的语言模型设计的。另一个在设计上非常相似的例子，比如说，是智能体集群，例如 Hugging Face 事件。这些智能体集群有一个留言板，它们学会在上面交流。而这个留言板在某种意义上就是它们在其上行动的共享上下文。而 RLM 基本上是说，通过它交流的最佳方式是用代码。比如，你编写代码来实现这一点，这是因为这些模型非常擅长写代码。比如，我们想利用这一事实。

Swyx [00:47:37]：然后对于这个组合性的东西，一直到为特定任务生成你自己的 harness。

Alex Zhang [00:47:44]：正是如此。

Swyx [00:47:45]：对吧？

Alex Zhang [00:47:46]：我想我们会开始看到这一点，如果你往上看，看这张图。好的。所以我们谈论的是 harness 的局部同分布任务这一想法，它就像是在同分布任务之上的一个想法。当我们思考语言模型时，同分布任务就是一个任务，其中提示词是模型之前见过的东西，或者见过它的某个版本。大多数 harness 都像右边那个一样运作，也就是它们不断把轨迹作为提示词追加进去。所以最终，除非你是 Anthropic 或 OpenAI 并且在这种用户轨迹上训练过，否则大多数这些东西最终大部分都会变成分布外的。但局部同分布基本上是 RLM 的组合性论证：如果 RLM 把它的计算分解成，比如说，某种元 harness，或者一个涉及子智能体的程序，这些子智能体去看一个局部问题，那么在这个任务过程中每一次单独的语言模型调用都是同分布的，即使整个任务本身是分布外的。而且我认为这是一个非常理想的性质，原因显而易见。比如，如果每个任务对每一次单独的语言模型调用都是同分布的，你很可能就会得到正确答案。所以。

Swyx [00:49:00]：RLM 的逻辑极限是 RLLM，也就是，你不仅，你不仅编写 harness，你还训练一个定制模型来

Alex Zhang [00:49:11]：正是如此。

Swyx [00:49:11]：你收集数据，所有一切。

Alex Zhang [00:49:14]：是的。

Swyx [00:49:14]：就像在你的 harness 里有一个完全自动化的 AI 研究员。

Alex Zhang [00:49:16]：是的。我们会看看 RLM 的训练会走向何方。我要说的是，作为一名学者，我并没有在 MIT 做这方面的研究，至少没有在大规模意义上做，因为我负担不起。但外面有一些公司正在做这件事。我认为 Prime 和 Select 显然正在做这件事，而且非常酷。比如，我非常、非常兴奋地看到。也许我们会观察到，我不知道，但也许我们会观察到更好的，比如，当你围绕一个智能 harness 进行训练时的后训练缩放定律。也许我们甚至会看到更智能的 harness 出现，并且，它们围绕这类原则运作得更好。

Swyx [00:49:50]：什么是更智能的 harness？这没什么意义。你刚说它们都一样。

Alex Zhang [00:49:54]：不。什么，更像是，Claude Code、Codex、Pi 等等，它们都一样，因为，当你拆解 harness 的逻辑时，它基本上就是同样的东西。

Swyx [00:50:06]：是的，循环里两次调用，或者

Alex Zhang [00:50:07]：是的

Swyx [00:50:08]：随便吧。

Alex Zhang [00:50:08]：但有了 RLM 和其他 harness 抽象，情况看起来就非常不同。而这就是我认为你真正能区分开来的地方。这就像，我认为在语言模型架构选择上，很多架构选择在你把它扩展出去时，最终看起来都差不多，或者，它。差异最终在某种程度上是次要的。对实验室来说这不是次要的，但，也许一个模型比另一个收敛得更好，比如，稍微好一点。但总的来说，比如，如果你是。所以举例来说，预训练缩放定律之所以成立，只是因为我们目前的架构选择在某种程度上是稳定的。但如果你完全改变架构，预训练缩放定律很可能就不成立了。或者，像这类。这，像幂律会看起来非常不同。而 harness 也是一样。比如，我认为我们现在所有的 harness，在很大程度上，大致看起来都一样，但我认为有一些例外正在出现。

Swyx [00:51:06]：我正想说，实际上，我最近更感兴趣的一件事，比如，谈论那些承担巨大风险的博士生，就是人们一直在。人们也在追求另一面，那就是如果你改变数据，预训练缩放定律就不成立。现在它只是原始的、非结构化的文本，互联网语料库。如果你有一个更好的数据表示来训练呢？那么是的，你的缩放定律也会改变。

Alex Zhang [00:51:28]：是的。

Swyx [00:51:28]：所以有架构，有数据，还有，你能想到的其他任何东西。好吧，所以我就想回到这一点。这一切都说得通。非常有趣的是，你如何在技术栈上上下下递归，从非常概念性的，到，不像是，好吧，这就是我们今天所处的位置。

Swyx [00:51:43]：但是，比如，是的，显然，它可以向上和向下扩展。我想，我很好奇，你是怎么开始和 Prime 合作的？Prime 在这方面承担了更多工作吗？这是他们对 Hermes 智能体的回答吗？

Alex Zhang [00:51:56]：嗯。

Swyx [00:51:56]：你提到 Grokbot 有点不同。我只是想，比如，点名所有这些家伙，听听你对每一个的看法。

Alex Zhang [00:52:01]：是的。我是在 Prime 发布了一篇博客文章之后参与进去的，顺便说一句，那篇文章和我完全无关，内容是关于，比如，他们相信 RLM 在某种程度上就是未来。我有一个朋友在那里工作，GPU Mode 的 Matei。比如，我们取得了联系，我想我同意那里很多研究人员的看法，以及，比如，他们对 harness 设计的信念。比如，我印象非常深刻，我认为，比如，他们理解了 RLM 论文的目的，这不一定只是说，比如，我们在解决长上下文任务，而是实际上，比如，我们想要更有主见的 harness 设计。

Swyx [00:52:39]：是的。总是有，比如，你选择强调的论文结果

Alex Zhang [00:52:42]：是的

Swyx [00:52:43]：相对于真正的要点。

Alex Zhang [00:52:44]：是的。就像我很想谈谈，比如，学术界的激励机制，以及，比如，围绕它的东西，比如，为什么它有点缺陷以及所有的问题，我们会回到那一点。是的。所以无论如何，我喜欢 Prime 的那些家伙。所以我们有点一直在。在我们决定合作之后，我们决定研究 RLM 的训练，并且也构建这种 RLM harness，看看我们能把它带到哪里。这就是，比如，Prime Agent 是如何诞生的，我认为 Prime Agent 的反响相当不错。比如，我对 Prime Agent 担心的一件事是，它们没有一个，至少在我们构建它的时候，没有一个模型那么擅长做 RLM 相关的事情。所以这就像是，在 Fable 之前，在 Astra 之前。

Swyx [00:53:27]：我想，我觉得退一步说，你能解释一下什么是 Prime Agent，它与

Alex Zhang [00:53:32]：是的

Swyx [00:53:33]：传统的、Claude Code、人们所期望的 harness 有何不同吗？

Alex Zhang [00:53:36]：是的。所以 Prime Agent，我想我之前稍微提到过一点

Swyx [00:53:40]：是的，有那张图。是的

Alex Zhang [00:53:41]：基本上。它是一个。一个建立在 Pi 之上的 harness，比如 Pi Mono，也就是——补充一下背景，Pi Mono 就像是，像一个

Swyx [00:53:50]：核心智能体

Alex Zhang [00:53:51]：一个极简主义的

Swyx [00:53:51]：是的。

Alex Zhang [00:53:52]：是的，像 harness。我把 Pi 作为一切的参照，因为我认为所有其他 harness 基本上就只是 Pi。

Alex Zhang [00:53:57]：但它就是 Pi，只不过我们明确限制 IPython 成为它唯一可用的工具。其他所有工具都会以 Python 模块的形式加载进来，或者像它可以运行的 Bash 脚本那样。所以它在 Pi 之上使用了核心的 RLM 抽象，然后它还有这个 continual harness 的东西，也就是 Seth，他是另一位博士生。这是他用来让语言模型 harness 玩游戏的成果。比如，他和 Joel 合作很多，Joel 就是那个让 Gemini 玩 Pokemon 的人。顺便说一句，continual harness 也非常简单。我挺喜欢它的。它基本上就是这样一个设计原则：harness 的哪些部分你可以让 harness 自己修改？有些部分，比如，你会让它修改自己的技能、可供它使用的子智能体、给模型的系统提示词是什么。而 continual harness 基本上就是作为 IPython 内核里的一个工具来提供的。所以这就是 Prime Agent 的定位，它的设计就是围绕这些。Prime Agent 里的其他一切就像

Swyx [00:55:05]：标准配置。

Alex Zhang [00:55:06]：标准配置。

Swyx [00:55:06]：标准配置。

Alex Zhang [00:55:06]：对吧？是的。我觉得，我真正喜欢它的地方，而且我们也算有点走运，就是很多新的前沿模型实际上在里面运行得非常好。而且实际上，甚至很多开源模型也运行得非常好，至少一些较新的模型是这样。还有 Prime Agent 里另一件我应该强调的事，就是我们有一套非常特别的智能体间通信系统，或者说框架，这是因为 RLM 往往会生成许多子智能体，我们想要一种让子智能体与根智能体、或者彼此之间通信的方式。所以围绕每个子智能体被允许与谁通信、如何通信，有一些设计决策。再说一次，一切都在代码里，所以它编写代码来实现这种通信，我觉得这真的很酷。然后还有，我想，持久化子智能体是另一项算是新增的东西，也就是子智能体可以存活得比实际原始智能体的标准运行时间更久。你可以进入那个子智能体，你可以继续给它提示，比如，你对正在发生的事情有更多的可见性和灵活性。

Swyx [00:56:10]：这是我现在对 Codex 最大的痛点。他们的子智能体非常短暂，而且他们积极劝阻你把它用于长时间运行的任务。

Alex Zhang [00:56:17]：是的。是的。我觉得这说得通。是的。我

Swyx [00:56:21]：所以诀窍就是把它外化到文件系统，对吧？

Alex Zhang [00:56:24]：是的。是的。那

Swyx [00:56:25]：就像，那就是诀窍。

Alex Zhang [00:56:25]：那就是最大的诀窍。

Alex Zhang [00:56:27]：是的。

Swyx [00:56:27]：而且，还有，就是强制一切都通过代码运行。相信模型

Alex Zhang [00:56:30]：是的

Swyx [00:56:30]：它能写代码，而且它会自己写自己的 harness。那么 Prime 会承担，比如，为此训练、后训练定制模型吗？这是你们之间的一次性合作，就这样吗？比如，到底

Alex Zhang [00:56:41]：是的。他们正在训练一个模型，实习生——我觉得他们其实对此相当公开

Swyx [00:56:46]：是的

Alex Zhang [00:56:46]：早在三月。

Swyx [00:56:47]：显然这就是他们的业务。

Alex Zhang [00:56:49]：是的。

Swyx [00:56:49]：是的，所以。

Alex Zhang [00:56:50]：是的。他们，他们在展示他们可以在他们那种托管训练栈上训练它。但不，所以对于模型训练，我，我没有参与他们那方面。主要原因只是我在博士期间还有其他想做的事。我觉得，比如，还有很多其他大的赌注可以下，

Swyx [00:57:03]：哦

Alex Zhang [00:57:03]：在 RLM 之外。有些

Swyx [00:57:06]：哦

Alex Zhang [00:57:06]：有些我还不知道能分享多少。但总的来说，比如，我觉得，我其实觉得作为一名博士生，真正的奢侈之一就是有那么多大的赌注可以下。它们大多数可能什么都不会产出，但现在是做研究的非常激动人心的时刻，尤其因为我觉得这个领域的大多数进展都有点无聊。比如，我不是说结果无聊，而是做这些事情的过程往往相当无聊。所以就有这样一个问题，比如，我们接下来想做什么？但

Swyx [00:57:39]：是的

Alex Zhang [00:57:39]：我们可以之后再聊那个。

Swyx [00:57:41]：是的。

Alex Zhang [00:57:41]：是的。

Swyx [00:57:41]：好，我想再多聊一点你的研究来收尾，然后我们可以，

Alex Zhang [00:57:44]：好。是的

Swyx [00:57:44]：开始发布吧。自从你们发布 RLM 以来，大家对此非常兴奋。有没有什么第三方的衍生工作你想特别提一下，比如，大家应该去看看的？

Alex Zhang [00:57:53]：哦，有。Harvey，那家法律 AI 公司，发了一篇博客文章，跟我们完全没有关联，但他们在自己的法律工作上对 RLM 做了后训练，这类工作往往涉及大量翻阅文档，以及查找各种具体信息，而这些信息可能不太容易用纯检索系统检索到。他们展示了非常好的结果。非常令人兴奋。我很惊讶他们做了这个。他们没告诉我，所以这东西出来的时候，我心想：“哦，太棒了。”所以我觉得这个特别酷，还有他们在那里做的事。顺便说一句，我觉得这是和 Base 10 合作的。

Swyx [00:58:33]：对，这是 Base 10。

Alex Zhang [00:58:34]：Headlong，也就是法律，法律研究所的那种。这是他们的，那种持续运行的 harness。非常酷，

Swyx [00:58:42]：哦，他们改名了？他们以前叫别的名字。

Alex Zhang [00:58:45]：好像是 Auto

Swyx [00:58:46]：Terminus。

Alex Zhang [00:58:46]：对，我知道。他们改过好几回了。对。

Swyx [00:58:49]：好吧。

Alex Zhang [00:58:49]：所以这是 Andy Konwinski 的大项目。非常酷。我很喜欢 Andy。我不想贬低他们做的事，因为他们用的是 RLM 这个抽象，但他们做的事比 RLM 酷多了，就是他们有一个系统，他们称之为，那种持续思考。所以即使你不查询它，它也有办法去思考它上下文中的问题。

Swyx [00:59:16]：哦，所以它就像一种始终在线的东西。

Alex Zhang [00:59:18]：它就像一种始终在线的东西，但没那么贵。比如，他们会控制 token 成本，确保它不会把你的额度全烧光。这非常酷。我在想。有很多。其实，如果你去 RLM 的 GitHub 页面，我在下面链接了一堆东西。人们一直在做大量非常酷的东西。Axe 是另一个非常酷的，我觉得它只是这一个人做的。它就像是围绕 DSPy 和 RLM 的一个 harness。DSPy 也有一个 RLM。哦，我要提的最后一件事是在 ARC-AGI-3 上，我相信，他们的 Kaggle 比赛上有大量 harness，比如官方那个，不是那种公开的灵长类，或者人们评估用的那种。它们都声称使用，或者引用了，比如 TUFA，例如，某种形式或受其启发的 RLM 抽象，用在了它们的 harness 里，这非常酷。我觉得，这正是——这正是你会看到组合、使用代码以及把神经符号系统与 AI 结合起来带来大量好处的场景。所以

Swyx [01:00:27]：是的。

Alex Zhang [01:00:27]：是的。非常酷。

Swyx [01:00:28]：我们喜欢好的神经符号引用。

Alex Zhang [01:00:30]：是的。

Swyx [01:00:30]：你还提到 ARC-AGI-3，OpenAI 出来说：“我们在这上面达到了 99.9%。”

Alex Zhang [01:00:36]：是的。

Swyx [01:00:37]：他们还说：“我们解决了纳维-斯托克斯方程。我们只是把模型扔上去。”

Swyx [01:00:40]：关于这是否只是模型，有一些争论。

Swyx [01:00:44]：他们是在用 RLM 吗？是吗？

Alex Zhang [01:00:46]：我猜大概不是，除非你说，比如。我在这里会谨慎一点，因为人们会争论什么算 RLM、什么不算 RLM。比较清楚的是，他们用的是某种智能体集群，带有某种共享上下文，比如某种共享文件系统。而且，这非常符合 RLM 那套东西的精神，但我认为他们做了很多更巧妙的事情，这些可能并不一定与 RLM 本身相关。我有点同意这个看法：对他们所做的事情来说，harness 并不是那么必要。我会这样表述：我认为像 GPT-6 Astra 这样的模型，在给定正确信息的情况下，技术上足够聪明，能够为这些非常困难的问题想出证明。现在，你如何获得那些信息是一个巨大的问号。而在他们的案例中，这很可能归结为，比如，对许多这些子智能体——或者说许多这些集群中的智能体——进行非常长时间的搜索，也许还有研究人员贡献——我其实不确定这部分，但比如把他们关于应该探索什么的直觉之类的东西放进去。最终，这产生了一些信息，某个智能体能够利用这些信息来完成证明。所以从这个意义上说，我认为，harness 有那么重要吗？没有。而且我认为这指向的是，harness 的具体细节并不真的重要，我认为这也是那篇 harness 任务论文所指向的，即，除了用户对 harness 的感受之外，现实中真正重要的只是，你如何以有意义的方式组合这些智能体来得到最终答案？也许这就是集群以及所有这些事情真正关乎的东西。 所以至少从我的视角来看，如果我们开始思考，比如用户使用场景，我们想从 harness 之类的东西里得到什么？比如，

Alex Zhang [01:02:51]：我们想从这些东西里取出好的部分，比如 Claude Code、Codex，比如人们喜欢看到的那种流式输出。但在底层，无论运行的是什么，都可能是一群非常怪异、复杂的智能体集群，最终得出一个答案。不过，用户显然不想看到这些，对吧？比如，那不是可读的信息。所以我——这其实是另一种符合 RLM 精神的东西，也就是递归语言模型。听起来它像是一个语言模型，但它并不是一种语言模型架构。但这样做的原因是，我觉得未来我们大概终有一天会看到，我为此写过一篇博客，我们所认为的语言模型，也就是我们查询的那个东西，实际上可能是一个集群，或者一个脚手架，或者某种设计怪异但扩展性非常好的 harness，只是用户看不到它。最终，用户看到的只是这个 harness 的某个前端版本。而且，是的，我认为至少可以比较有把握地打赌，这就是我们将会看到的东西。

Swyx [01:03:48]：是的。

Alex Zhang [01:03:49]：而这也许要回到基础 transformer 的局限性上。比如，显然，如果你只是拿一个基础 transformer，然后说，“解纳维–斯托克斯方程”之类的，它是做不到的。对，我们都知道不会发生这种事。但，是的，我觉得这也许是更有意思的部分。而也许那些关于 harness 是否重要的说法更多是关于这一点，即，只是任意地把模型，或者智能体，指向一个不断增长的信息上下文，也许就足以解决非常困难的问题。这个我能接受。

Swyx [01:04:20]：虽然这里面有很多内容，但我确实想说，OpenAI 的花费是半公开的。是 88 小时内 10,000 个智能体。

Alex Zhang [01:04:29]：哦，对。

Swyx [01:04:29]：1300 亿输出 token，按公开定价估算大约是 4000 万美元。

Alex Zhang [01:04:34]：出乎意料，其实，比我以为的少。

Swyx [01:04:37]：对，没那么多。

Alex Zhang [01:04:38]：对。对。

Vibhu [01:04:38]：最终是 1300 亿输出，但正如你所说，有大量上下文在传递。

Vibhu [01:04:44]：仅发送的智能体消息总量就超过这个数字的两倍。

Alex Zhang [01:04:47]：对。

Swyx [01:04:48]：对。

Alex Zhang [01:04:48]：对。对。

Swyx [01:04:49]：我觉得，我还有幸提到的一点是 Cursor，就集群之类的东西而言。

Swyx [01:04:53]：这个稍微旧一些，也就是二月，那已经算是上古了。

Alex Zhang [01:04:57]：哇。

Swyx [01:04:57]：但如果你一路往下滚到他们最终达成的那种多智能体架构，它基本上就是一个普通软件团队的组织架构图。我在想的一件事是，因为我基本上……有这么一种“收集全部”的函数，你得用子智能体来做。其实它和 GPU 编程非常相似。

Alex Zhang [01:05:16]：对。对。对。

Swyx [01:05:17]：所以，那是个瓶颈。这是个瓶颈。

Swyx [01:05:21]：如果有一个主负责人来协调所有下属，那他们就得再次收集，然后再重新协调。

Swyx [01:05:29]：那很慢。那很糟糕。真正的集群应该是每个人都只是独立的个体。

Alex Zhang [01:05:35]：对。对。

Swyx [01:05:36]：对吧？

Alex Zhang [01:05:36]：嗯，我同意这一点，不过我觉得这里还是有个问题值得讨论。让我打个比方，就是：什么时候该用压缩，什么时候该用 RLM？在很多场景下，RLM 也许能解决比压缩更困难的任务，但大多数情况下你会更愿意用压缩，因为它更便宜、更快。我觉得在智能体集群的语境下，也有类似的情况，就是……我相当确定，集群里大概 95% 完全没用，或者说它探索的东西完全——你只是在烧 token。而在这种设置下，也许没那么多。我不确定。也许这里也是同样的情况。

Swyx [01:06:17]：每个人都有自己的活儿。这就是你的看板。

Alex Zhang [01:06:19]：对。

Vibhu [01:06:19]：我觉得在某种程度上，问题就是这样被框定的，对吧？

Alex Zhang [01:06:23]：是的。

Vibhu [01:06:23]：所以，比如说，如果你有一个搜索问题，并且你铺开一堆子智能体去做搜索，那会产生大量无用的信息，对吧？你得到的是一个检索答案，然后你从它铺开，但这是有意识地被理解的，对吧？

Alex Zhang [01:06:36]：是的。但这里存在一个问题，就是：什么才适合用来解决哪些问题？比如，什么样的设计——理论上，OpenAI 可以使用——可以把这套 API 打包起来，把它叫做 swarms，然后交给你，说：“把它指向任何问题，我们就会给你一个解决方案。”但也许

Swyx [01:06:53]：对，它叫，它叫 pro，对吧？

Alex Zhang [01:06:54]：对。也许你得付个 4000 万美元才能得到一个结果。

Alex Zhang [01:06:57]：然后就是，好吧——但这很令人兴奋。我得说，就像，这——我们甚至可以选择把 4000 万美元投向一个问题并解决它，这非常令人兴奋。

Vibhu [01:07:07]：是的。

Alex Zhang [01:07:08]：但这个领域仍然有大量研究要做，比如：什么是必要的。比如，我们想做什么？我们想要什么样的设计？我们大概不希望一切都变成一个集群，但是，比如，我们在哪里划线？比如，智能体能自己设计或决定这一点吗？等等。所以。

Swyx [01:07:26]：对。然后，快速确认一下，以防你对此有看法。你对开放性（open-endedness）作为一个通用的问题类别研究得多吗？

Alex Zhang [01:07:35]：哦

Swyx [01:07:35]：意思是没有提示词，直接开干。

Alex Zhang [01:07:38]：有一点。我当时在 Sakana 待了一个夏天，就在我读博之前，或者说差不多就在那前后，那是他们投入很多精力研究的方向。而且我觉得即使在 Recursive Super Intel——现在这类公司已经很多了——也有很多人做这个。

Swyx [01:07:53]：是的，我们刚请了 Richard Socher 来做客。

Alex Zhang [01:07:55]：哦，对。是的。所以，比如 Richard 的公司，然后还有。其实，等等，那可能——可能是同一家公司。我记不清了。Tim Lautenschlager 是不是也在

Swyx [01:08:03]：是的。

Alex Zhang [01:08:03]：好。是的，就是那家公司。

Swyx [01:08:04]：他是主要联合创始人。他以前是 Google 开放性（open-endedness）方向的负责人。

Alex Zhang [01:08:07]：是的。

Swyx [01:08:07]：是的。

Alex Zhang [01:08:08]：所以我觉得对于开放性（open-endedness）问题，我某种程度上把它们看作类似于那些尚未解决的数学问题。也许这种说法有点奇怪，但我觉得，人们在处理这些问题时采用的很多技术，其实是差不多的。比如，进化搜索就非常类似于直接放出成群的智能体，然后指望它们能想出一些有意思的东西——而这正是 AlphaEvolve 以及一两年前其他一些工作所做的。但我觉得，也许不太清楚的是——我不确定这是不是你想暗示的——在开放性风格的搜索问题中，不太清楚的一点是：我们是不是把所有这些都基本上框定为一个尚未解决的、非常困难的问题，或者是一个目标明确的问题？如果不是这样，我至今仍不完全清楚它的价值何在。也许你有别的看法。比如，我对这个问题没有太多看法，但至少从我在 Sakana 的那段时间来看，我的感觉是，我们最终仍然有点想按照，比如说，OpenAI 处理 Navier–Stokes 方程的方式来处理事情。我们想要——我们仍然需要在某些方向上做很多引导，才能达到我们拥有一些有意思的东西的地步。

Swyx [01:09:29]：我的版本是，也许可以分成基础科学和应用科学。基础科学，你是为了研究而研究。

Swyx [01:09:36]：你只是想更好地理解事物。我完全不知道是否会有任何应用，但是，然后应用方面，你有一个目标。

Swyx [01:09:45]：你是，你是想以某种方式最小化损失吗？所以，我真正在想的是，就人们下的那些大赌注而言，如果没有提示词会怎样？比如。

Alex Zhang [01:09:57]：我明白了。

Vibhu [01:09:58]：你只需选一个领域，然后让它

Swyx [01:09:59]：就像，你只是，就像，你只是被丢进这一大群东西里，然后你说：“嘿，大家好？你们在忙什么呢？”

Alex Zhang [01:10:03]：是啊。

Swyx [01:10:03]：然后，就像，你就自己决定

Alex Zhang [01:10:05]：我明白了

Swyx [01:10:05]：就像，这是个有意思的问题。

Alex Zhang [01:10:06]：最大的问题是，就像。也许对此有一条清晰的路径，但至少我在那里的时候，人们在开放性方面最大的问题是，你最终到底怎么选？你怎么挑出有意思的东西？因为当没有……就像，也许智能体会提出一个目标，但在很多情况下，就像，它们……而且它们有个叫 Fugu 的东西，我想，它就像是一个模型路由器之类的东西，至少是受到这个想法的启发，就是：让我们选一个问题，也许我们能从中挑出最好的解决方案。在这个例子里，就是为这个问题挑选最好的模型。

Swyx [01:10:41]：你是第一个把模型路由和开放性联系起来的人。

Alex Zhang [01:10:43]：不，是啊。但是，我提起这个是因为我觉得，就像，在开放性方面，一般来说问题在于，当我们有这么一大堆垃圾内容时，我们怎么从中筛选

Swyx [01:10:57]：是的

Alex Zhang [01:10:57]：然后去发现，比如说，那些隐藏的珍宝？而且，比如说，开放性的解决方案其实就只是让模型永远运行下去，然后，比如说，去发现。比如说，就只是做数据生成——就只是做超高吞吐量的数据生成，然后，比如说，让智能体去遍历，然后，比如说，找出有意义的东西。比如说，我不太确定。也许这就足够了？比如说，那会，那会很酷。

Swyx [01:11:21]：对我来说，比如说，这非常有意思，因为它基本上是对所有机器学习的一种反拨——在机器学习里你有一个目标，而这里是不要有目标。

Alex Zhang [01:11:28]：是啊。是啊。

Swyx [01:11:29]：但是，或者说，比如说，一个定义不清的目标，你会说：“那这个目标怎么样？”然后你说：“嗯，好吧，也许吧。”然后你，比如说，多少再研究一下，然后你发现

Alex Zhang [01:11:36]：是啊

Swyx [01:11:36]：那是个有意思的目标。因为，比如说，我觉得，比如说，找到目标函数，就像你说的，比如说，Jeff 找到了一个目标函数，那很有意思，而且没人在探索它。

Alex Zhang [01:11:43]：对。是啊。

Swyx [01:11:44]：我觉得那，比如说，也类似于你关于研究生说的那番话。比如说，你留在学校里，因为你。你想追求开放性。如果你想利润最大化，并且，比如说，加入，逃离永久底层阶级，那你就加入一个实验室。

Swyx [01:11:59]：对吧？

Alex Zhang [01:11:59]：是啊。是啊。挺有意思的。我觉得我不，我不常听到这种讨论。我，我在东海岸，所以那，比如说，是一种非常不同的类型。但后来当我。每当我来这里，就感觉，那总是，比如说，讨论的话题。

Swyx [01:12:12]：你不做这个就付不起房租。

Alex Zhang [01:12:13]：是啊。

Swyx [01:12:15]：是啊，各位，你们要被价格挤出局了。

Vibhu [01:12:16]：是啊。

Swyx [01:12:17]：好。所以，是的，有，有所有这些。我不知道你是否想——如果这足够相关，可以谈谈那些被管理不善的天才们，就是你刚才提到的那些。

Vibhu [01:12:25]：不，那只是在你博客上。但我会追问一下，Sakana。

Swyx [01:12:28]：哦，Sakana？哦，好的。

Vibhu [01:12:28]：是的。所以他们在他们的博客文章里做了这件事，我也和他们谈过这个。所以 Ultra 的一个很酷的成果是，他们基本上就让它放手去做自动化数据科学研究

Vibhu [01:12:40]：几乎不需要人工干预。它就是在做

Swyx [01:12:44]：是的，所以这是自动研究，它更开放一些，而开放性是有程度的，我同意这一点。

Vibhu [01:12:51]：是的，和有目标的自动研究不同，这个只是

Swyx [01:12:54]：是的

Vibhu [01:12:54]：做事情。但是，这很酷。他们，他们正在为此努力，感兴趣的人可以关注。

Swyx [01:12:58]：既然你提到了，其实，你对 Sakana 怎么看？比如，除了是那家日本的公司之外，他们在做什么？

Alex Zhang [01:13:04]：是的。

Alex Zhang [01:13:05]：我其实很喜欢那里的人。比如，我觉得他们有一个非常聪明的团队。而且这很合理。它是从，比如，GDM 的一个早期团队分出来的，那个团队我想也是在，做这种，比如，开放式进化研究风格的东西。至少我在那里的经历中，我喜欢的一点是，他们确实有过那次，比如，失误，我忘了，到现在这个时间点，但我觉得，比如

Swyx [01:13:31]：你说的是 AI 科学家？

Alex Zhang [01:13:32]：不，是 GPU kernel。

Swyx [01:13:34]：哦，好的，是的。

Alex Zhang [01:13:35]：那件事。是的。

Swyx [01:13:36]：人们无法原谅他们那件事。是的。

Alex Zhang [01:13:37]：是的。然后我猜，比如，AI 科学家，比如，对它有批评，我不，我不做那个，所以我对它没什么看法。但我觉得总的来说，至少我喜欢他们的一点是，他们稍微更像一个研究型的实验室。所以，比如，他们不像 OpenAI 或 Anthropic 那样在同一个领域运作。比如，肯定的，绝对不。他们不是。很可能很明显，至少我在那里的时候，他们没有一个大竞争对手模型或者大家都在用的东西。但我觉得他们在某些方面有点像博士实验室那样运作，这很酷。比如，我觉得 David Ha 真的非常聪明。比如，我觉得他有很好的判断力。另外，我觉得日本的 AI 市场也稍微不同，而且他们瞄准的对象可能跟我们这边习惯的略有不同。但是的，我喜欢他们那种。他们的很多研究在人们看来有点怪？我喜欢这一点。比如，我觉得这

Swyx [01:14:34]：我们应该多一些怪东西，是的。

Alex Zhang [01:14:35]：正是。

Swyx [01:14:36]：你说不同的市场。是，比如，企业级吗？

Alex Zhang [01:14:39]：那里的运作方式有点不同，比如交易怎么达成之类的。

Vibhu [01:14:44]：他们确实有一个。我猜这个页面原本是日文的，但他们确实有一个模型

Alex Zhang [01:14:49]：哦

Vibhu [01:14:49]：专门针对日本市场。

Swyx [01:14:51]：所以你不知道这个。

Alex Zhang [01:14:51]：我不知道这个。

Vibhu [01:14:52]：我也不知道。

Alex Zhang [01:14:53]：不知道这个。

Vibhu [01:14:53]：我还有认识这个团队的朋友。

Alex Zhang [01:14:56]：是的。

Vibhu [01:14:56]：所以有一个。甚至从你说话方式的文化意义上说，回答也会朝那个方向调优。这不像是在基准测试上处于前沿。对他们来说，这是一个文化上合适的模型，然后他们还有聊天之类的功能。

Alex Zhang [01:15:11]：是的。

Vibhu [01:15:12]：但是，呼应你的观点，还有比如，教育应该是什么样子？有人想在这方面做工作，而他们是一个非常博士实验室式的，“做你的事。为什么不呢？我们有钱。去研究吧。”

Swyx [01:15:22]：哦，他们说这是 Kimi 微调。那不错。

Vibhu [01:15:24]：哦，这就对了。Kimi。

Swyx [01:15:25]：为他们高兴。

Swyx [01:15:26]：是的，而且说到 Kimi，对吧，就像另一个，只是一个研究生搞出来的，然后就像，是的，我刚好有这个，就像 Kimi delta attention，想要——我想做这个。

Vibhu [01:15:36]：是的。是的。

Swyx [01:15:36]：而且，不知怎么地做出了 Moonshot。到现在还是不明白。

Alex Zhang [01:15:41]：是的。嗯，他，他超级厉害，至少我的理解是这样。我觉得总的来说，很多，很多中国实验室都做了非常酷的工作。

Swyx [01:15:51]：是的。

Alex Zhang [01:15:51]：就像，是的。

Vibhu [01:15:52]：对 Kimi 智能体集群有什么看法吗？

Alex Zhang [01:15:55]：是的。我要说的一点是，无论 OpenAI 在智能体集群上做什么，显然都是正确的做法。你得这样想。比如，没有什么——尤其是在没有非常聪明的 harness 设计的情况下，而我不认为到目前为止真有人做到了——没有什么东西是那么容易免费得来的。比如说，智能体集群设计并不是你可以理所当然拥有的东西。并不是说 GPT-6 Astra 超级聪明，然后智能体集群就自动运行良好了。他们显然训练过。Hugging Face 那件事就是他们在训练一个系统，让它像集群一样运作。而且我觉得，显然他们做了一些非常出色的事情，以至于你可以砸下 4000 万美元去解决一个未解决的问题。而我觉得，就 Kimi 智能体集群那件事而言，至少从我读到的内容来看，它给人的感觉就是，这挺有意思，但我其实不知道它能不能解决任何新颖的问题。

Swyx [01:16:59]：是啊，他们只是。他们就像，“它能帮你做电子表格。”

Alex Zhang [01:17:01]：他们差不多就是，对，就像，这里有一个集群，它大概能做点事情，挺酷的。但是。而且我要说动态工作流也是一样。我其实有点觉得动态工作流的发布算是有点失败。我不知道你们怎么看，但我觉得它就像。我的理解是，它并没有被经常使用，或者说

Swyx [01:17:21]：它就是非常贵。

Alex Zhang [01:17:22]：它太贵了，而且就像

Swyx [01:17:22]：它是 ultra code。基本上就像，接管我的床。

Alex Zhang [01:17:26]：而且它并不——我试过了，而且，它并不像那样运作。再说一次，我不是，我不是 OpenAI 最大的，那种死忠粉之类的，但我觉得不管他们做了什么，都非常令人印象深刻。比如，他们不知怎么地找到了一种方法，让这个集群真正行动起来

Swyx [01:17:41]：我明白了

Alex Zhang [01:17:42]：朝着一个目标前进。而且，是的。

Swyx [01:17:44]：我明白了。

Alex Zhang [01:17:44]：这非常困难。

Swyx [01:17:45]：我明白了。所以，就像，多智能体集群的效率就是这里的目标函数。

Alex Zhang [01:17:51]：是的。

Swyx [01:17:51]：对吧？

Alex Zhang [01:17:51]：是的。

Swyx [01:17:52]：就像，这里面有多少是垃圾？就像，这里面有大量垃圾。

Alex Zhang [01:17:55]：是的，我觉得是这样。

Swyx [01:17:55]：OpenAI 的垃圾更少。

Alex Zhang [01:17:56]：我们把集群收敛到一个答案意味着什么视为理所当然。

Swyx [01:18:00]：是的。

Alex Zhang [01:18:00]：就像。这不是我们理所当然就能拥有的东西。

Swyx [01:18:02]：是的。是的。我们，我们和 Noam Brown 做过一期播客，而且，就像，他的

Alex Zhang [01:18:06]：哦，对，我记得。是的

Swyx [01:18:06]：他的东西。他整个那套东西就像，好吧，就像，我们研究过很多，就像，竞争性智能体。我们正在研究协作性智能体。

Alex Zhang [01:18:13]：是的。

Swyx [01:18:13]：而且，就像，那现在被称为集群。

Alex Zhang [01:18:15]：是的。

Vibhu [01:18:15]：我快速插一句。你对 Gemini 有什么看法吗？他们也是 IMO 金牌。就像，有一段时间他们在让智能体进行长时间推理，而且。

Alex Zhang [01:18:26]：是的，

Vibhu [01:18:28]：现在想这个是不是太早了？

Alex Zhang [01:18:29]：不。我觉得这有点被夸大了。比如 Gemini。再说一次，我得先说明，我没在这些地方工作过，所以这话你们听听就好，对吧？

Vibhu [01:18:39]：你对智能体 harness 有很强的看法

Alex Zhang [01:18:42]：是的

Vibhu [01:18:42]：而且，这是

Alex Zhang [01:18:43]：但是，我先说这个。这项工作真的非常令人印象深刻。我觉得他们在这里展示的是，他们抓住了一个模型还不太好的时期

Vibhu [01:18:53]：是的

Alex Zhang [01:18:53]：而他们在 harness 做什么这件事上非常聪明。至少对这件事我记得很清楚，比如，对，就像 AlphaGeometry，我猜那是在这之前一年，但它非常酷。他们把它做到了极致，而且他们，比如，设计了，我不知道。我得说我对竞赛数学不太感兴趣，但我觉得，比如，GDM，有点可惜。比如，我跟每个聊过 GDM 的人基本都有同样的看法，就是它太，比如，官僚化了。不管怎样，他们有才华和资源去做几乎任何事情，但是，比如，我不知道，除非他们把那部分搞清楚，比如。我不是针对 anti-gravity，比如，但是，比如，我不认识任何用 anti-gravity 的人。所以我试过一次，它。我看不出有什么理由转过去用。而且我觉得不管什么原因，比如，他们一直在这方面挣扎，所以，是的。

Swyx [01:19:40]：是的。嗯，很多人长期以来一直批评 Meta，直到他们开始

Alex Zhang [01:19:44]：是的，然后他们恢复了

Swyx [01:19:44]：推出产品。而且，比如，我觉得 Google 现在正经历那个阶段。

Alex Zhang [01:19:47]：是的。

Swyx [01:19:48]：而且，这，这只是你得活下去，而且

Alex Zhang [01:19:51]：是的。

Swyx [01:19:52]：我想把话题拉回来

Alex Zhang [01:19:53]：好

Swyx [01:19:53]：就，比如，你的想法，就一般性的。我们可以聊聊推测性 PTC

Swyx [01:19:58]：被管理不善的天才们，或者就，比如，把这些都抛开，随便聊点别的。

Alex Zhang [01:20:03]：好，我们，我们聊一会儿被管理不善的天才吧。

Swyx [01:20:06]：好。

Alex Zhang [01:20:06]：我，关于推测性 PTC 我唯一想说的是，它是个非常简单的想法。它几乎，比如，明摆着就该这么做，而且，比如，也没什么更多可聊的了。比如，我觉得就是，比如，你就该把它用在，比如，写代码上。比如，任何涉及程序化智能体调用的东西，比如 RLM 或 Kodak，比如，对，就是，就是不用多想的事。

Vibhu [01:20:25]：那，对于还没读过它的人来说

Alex Zhang [01:20:27]：对

Vibhu [01:20:27]：一句话概括是什么？

Alex Zhang [01:20:29]：简单来说就是，当模型在写代码时，或者，比如，甚至在它写完代码之后，很多工具往往是，比如，串行的，或者，比如，你得等它们，所以你就应该提前把它们启动起来。比如，如果你能对这个代码做即时编译，你大概就能推断出，比如，尽管它，比如，涉及一些变量之类的东西，比如，你也能推断出，比如

Swyx [01:20:52]：对，静态分析。

Alex Zhang [01:20:53]：对。所以

Vibhu [01:20:54]：推测。

Alex Zhang [01:20:55]：对。有这么一个，有人给我指出，其实，比如，学术界，尤其是 PL，比如编程语言领域的人，有一些，比如，非常酷的做法。所以，比如，也许某个时候我会，我会，我会，比如，做这个。

Swyx [01:21:09]：我猜主要是你得换语言，因为如果你用 JavaScript、Python，你做不到这个。

Alex Zhang [01:21:13]：对。是的。

Swyx [01:21:14]：所以，比如，Haskell，可以。那个，那个，那个不是 Haskell 的常规选择是什么？

Alex Zhang [01:21:21]：Lisp。

Swyx [01:21:22]：Lisp，OCaml。

Alex Zhang [01:21:24]：OCaml，哦，对。

Swyx [01:21:25]：对，任何函数式语言

Alex Zhang [01:21:25]：对

Swyx [01:21:25]：你其实可以，比如，把这条流水线串起来。

Alex Zhang [01:21:27]：对。

Swyx [01:21:27]：所以如果你想用 TypeScript，就用 Effect-TS。

Alex Zhang [01:21:29]：对。

Swyx [01:21:30]：好，我们可以转到，

Vibhu [01:21:32]：我喜欢这张图。

Alex Zhang [01:21:33]：对。

Swyx [01:21:34]：这基本上就是你们整个的论点，对吧？

Swyx [01:21:36]：比如，对我来说这就像是，一种重述，但也许我漏掉了什么，关于

Alex Zhang [01:21:41]：对

Swyx [01:21:41]：比如，嗯，去做更好的 harness，或者，比如，你的模型其实能做得更多，只要你更努力，所以这是个能力问题。

Alex Zhang [01:21:48]：对。对，基本上是这样。我觉得有一件事我想看到。我很欣赏大家对“锯齿状智能”的高度关注，因为它描绘了一幅宏大的图景，比如，只要我们真正下定决心，就能做到。但我有点希望——也许学术界应该有人来做这件事——真正坐下来想一想，比如，如果我拿 Astra 来说，即便是当前的前沿模型，也不足以在比如一个月的跨度内持续、出色地完成某项特定工作。我觉得这其实是个很愚蠢的问题。我真的认为我们能解决它。你不需要是一家前沿实验室，也不需要为了你的 IPO 去做那些花哨的东西。我觉得这些模型太聪明了，即便用的是很笨的办法，我也真心觉得这纯粹是能力问题——你可以让一个模型做到和比如某个18岁的高中生一样好

Alex Zhang [01:22:50]：去做某项工作。我觉得我们做不到这一点，简直荒谬。而部分原因是，语言模型的形式本身并不太适合做这件事，但我认为你可以在它周围设计一个 harness 来实现。而且我觉得，这本身——先不谈 RLM 那些东西，不谈我们该用什么抽象——我就是觉得有人能设计出一个能做到这一点的 harness。我，那……也许它

Swyx [01:23:13]：你说“做这个”，是做什么？

Alex Zhang [01:23:15]：做长时间运行但简单的任务，并且可靠地完成它们。

Swyx [01:23:20]：好。

Vibhu [01:23:20]：能举个例子吗？所以这和比如——挑你最喜欢的公司，Harvey——用 LLM 做法律工作，有什么不同，还是说……

Alex Zhang [01:23:30]：我猜差不多是这样，只不过瓶颈不是某种法律知识之类的东西。就，我也不知道。比如说，

Vibhu [01:23:38]：我猜，比如那些例子，人们可以拿模型来搭建流水线之类的，让一个智能体反复去做它想做的事，对吧？

Alex Zhang [01:23:47]：对。所以举个例子，比如我想要一个通用的系统，我可以跟它说话。我可以像跟实习生说话那样跟它说话，基本上就是让它去做，去探索某个小东西。所以也许一个例子就是，比如非常傻的自动研究，也许就是个例子，就是，不一定非要找到超级新颖的解法，但至少把任何问题里所有简单的部分都优化掉。它们往往最终会过度偏向比如 ML 训练之类的东西。但，对，我也不知道。也许那，那，那不是很清楚，但有很多人的一般工作流程，你大概可以直接 vibe code 出一个特定的 harness 来帮你做，比如自动化这件事。一些例子比如自动化地找研究论文之类的东西。但通常人们会设计一个专门的智能体来帮他们做这类事情。或者他们会 vibe 出一个 harness，然后直接跑它，或者像他们的 Slack 机器人之类的。但我几乎觉得就是有一种标准形式，就像一个 harness，你直接插进去就行。就像你不需要——它不需要专门为找论文或找——设计，你只要告诉它，帮我找这个，然后你把它插进那个环境里。我想说的是，我觉得有很多简单的事情可以被自动化。而且

Vibhu [01:25:13]：这算是一种假设，还是关于能力过剩的观点？就是说，即使我们暂停了，以模型当前的状态，仍然能产生很大的影响？

Alex Zhang [01:25:22]：某种意义上，是的。我想我展示的是这个问题最简单的形式。但这大致是在说，我们在很多事情上拥有参差不齐的智能。比如，模型在编程和数学上强得不成比例。这说的是我们可以把这些能力迁移到许多其他事情上。比如，如果你拿——通常如果你拿一个IMO金牌得主之类的人，把他应用到很多不同的问题解决领域，他们能弄明白。我其实不知道这是否适用于模型。比如在GPU代码优化中，一个非常有趣的问题是，如果——如果你把模型里所有GPU编程数据都拿掉，但它重新——它就像现在的Astra一样好，只是把那些数据拿掉了，它还能优化GPU内核吗？它能在上下文中大致学到它需要学的东西，然后有某种流水线，或者想出某种解决优化任务的方案吗？我觉得存在一种不匹配，比如如果你拿一个和Astra一样聪明或知道得一样多的人，那个人能做的事和Astra能做的事之间存在不匹配，也许是在harness方面。而我觉得我们实际上可以更接近人类。

Swyx [01:26:42]：对我来说，这听起来非常接近持续学习问题。我觉得你

Alex Zhang [01:26:46]：那是最好的例子。是的。

Alex Zhang [01:26:48]：是的。

Swyx [01:26:48]：那你为什么不直接这么说呢？

Alex Zhang [01:26:49]：是啊。我想我

Vibhu [01:26:50]：我当时在想，我能不能直接脱口而出一些词，比如“学习”？

Alex Zhang [01:26:54]：这个我会小心。不过是的，我

Vibhu [01:26:57]：你很有眼光。

Alex Zhang [01:26:58]：也许吧，也许，有点像，我不知道，有点像

Swyx [01:27:03]：不。所以我觉得你非常，是啊，我不知道，我其实不知道你的本科专业。你总体上算是数学型的人吗，还是

Alex Zhang [01:27:09]：有一点吧，是的。是的。

Vibhu [01:27:09]：你学的是数学吗？

Alex Zhang [01:27:11]：是的，至少那是我当时想做的。

Swyx [01:27:12]：就像范畴论那种抽象，你用范畴来思考，然后你必须再把它翻译到具体的层面。但接着你实际上更关心的是那个范畴。

Swyx [01:27:24]：而这正是沟通误差所在，因为每个人都在听具体的部分，但实际上也试图传达一般性的东西。

Alex Zhang [01:27:31]：是的。

Swyx [01:27:32]：这很难。我不太确定。你可以，也许可以用一种简写，比如“好，我在第二层，然后我要升到第三层，然后再回到第二层。”我们应该有某种认识论上的简写来表达这类东西。

Alex Zhang [01:27:45]：是的。

Swyx [01:27:45]：因为这很难。就像你在把大量信息压缩进一个词接一个词、像顺序解码一样的词里。

Swyx [01:27:51]：我们该转换成Neuralese吗？有没有比英语、Python或JavaScript更好的输出形式？我不知道。

Alex Zhang [01:28:06]：是的。

Swyx [01:28:06]：这很像是一条随口发的帖子，但人们确实猜测过，人们想要输出——模型想要输出的原生语言是什么？

Swyx [01:28:14]：有人说二进制。那是，那是马克·安德森的观点。我不知道。是啊。

Swyx [01:28:19]：PTX？

Alex Zhang [01:28:20]：就说英语和Python的混合吧。我这么说只是因为，模型的能力在某种程度上反映了我们训练它所用的东西。所以我们还是想要那种。是啊，我不太买二进制那套说法。我想我，我理解，但就像

Swyx [01:28:40]：是啊。你想以某种方式对世界建模。我觉得，

Alex Zhang [01:28:43]：是啊。

Swyx [01:28:43]：我要提的一点始终是，这类对话里我总会提的，就是萨丕尔-沃尔夫假说。也就是说，如果你选择英语，你就会锁定在英语存在的那段时间里，就算五百年吧，其实并不算长。就像实际上，你说的语言会约束你的思维方式。

Swyx [01:28:59]：而如果你学另一种语言，比如，在中文里，我们没有时态。我不知道你。我其实之前不知道这一点。而我说中文。

Alex Zhang [01:29:09]：哦。我确实知道这一点，但我的中文不太好。

Swyx [01:29:12]：好。

Alex Zhang [01:29:13]：是啊。

Swyx [01:29:13]：是啊。或者比如，在日语里，或者，我知道，我忘了是哪种语言。比如在韩语里，你跟每个人说话，是啊，你都得承认社会地位。

Alex Zhang [01:29:23]：是啊。

Swyx [01:29:24]：但这和性别是不同维度，对吧？就像，它就像，它会影响你做的一切。我上语言学101课的时候，据说有一种，有一种，非洲有一种语言里好像有蔬菜性别。对吧？就像你有。或者像爱斯基摩人对雪没有词之类的。反正，你采用的语言会影响你的思维。而如果你选择用英语输出你的思维链，你就会偏向英语能解决的那些东西。我不知道英语的先验是什么。

Alex Zhang [01:29:51]：这很有意思。我没那样想过。

Vibhu [01:29:55]：某种程度上挺有意思的，对吧？所以你说语言是对的。很多模型的思维链也会在语言之间波动。

Vibhu [01:30:03]：明显的例子是中文模型说英语时可能仍然用中文推理。但同样地，大多数模型的多语言能力都很强。

Vibhu [01:30:13]：而且这种适应我们能看到，你可以加入语言。加入一整门语言并不会带来那么多提升，但

Swyx [01:30:18]：是啊。

Vibhu [01:30:18]：它们会交替推理

Swyx [01:30:21]：是啊。所以我们都是自回归的。但同时也像

Vibhu [01:30:23]：对。

Swyx [01:30:23]：比如说德语，主宾一致，你得把动词放在句末，这非常非常烦人，众所周知。对，没错。你不到最后都不知道自己在说什么，直到最后你才想：“哦，这一堆名词，然后才是动词。”最经典的、大多数人听说过的例子是《降临》，里面有七肢桶，他们认为时间对他们来说是平的。所以他们思考时，会一次性输出整句话。所以这最接近自回归和扩散之间的区别。

Swyx [01:30:55]：我们用自回归的方式说话。如果你能用扩散的方式说话呢？事物随时间逐渐成形。

Alex Zhang [01:31:01]：我明白了。我明白了。

Swyx [01:31:02]：但整个想法会一下子出现。

Alex Zhang [01:31:05]：我明白了。

Swyx [01:31:07]：所以那是一种截然不同的语言，但它确实是一种语言。

Alex Zhang [01:31:10]：我明白了。哦，这真的很有意思。这真的很有意思。

Swyx [01:31:12]：这种语言机器可以说，我们可能永远不会说，但就像，是啊，机器不在乎。

Alex Zhang [01:31:19]：也许这是个很大的跑题

Swyx [01:31:20]：是啊

Alex Zhang [01:31:20]：但是，难道不存在一些本质上就是自回归的推理链吗？

Swyx [01:31:30]：有，时间。

Alex Zhang [01:31:30]：有时候，就像。是啊。或者像，是啊。

Swyx [01:31:32]：是啊。先发生一件事，然后另一件事发生。

Alex Zhang [01:31:34]：甚至像，是啊，比如代码里的任何东西，通常至少必须是因果的。

Swyx [01:31:40]：嗯，不对。所以这是个。那你就得。那说明你探索得还不够，

Alex Zhang [01:31:44]：确实。是啊

Swyx [01:31:45]：编程语言理论，在那里，一切都像是纯函数式的，而且完全是关系式的。然后，你某种程度上把那个求解器抽象掉了，它负责把那些始终为真的关系翻译成代码。所以，我，是的，我觉得这也许有点超出我的能力范围了。

Alex Zhang [01:32:01]：不，不过这挺有意思的。是啊。

Swyx [01:32:01]：但我热爱语言，无论是编程语言还是人类语言，而且我确实经常思考这如何影响推理以及我们能做什么的边界。我不需要再深入太多了。我不知道你还有没有其他想法。我原本的收尾问题是，你有所有这些你想做的研究方向。你经历过一个 GPU 模式阶段。你经历过一个 RLM 阶段。

Swyx [01:32:25]：想必你还有其他计划，这就是为什么你没有在那上面加倍投入。顺便说一句，我注意到一件有意思的事：你们先是从 GPU 这边开始，然后转向零梯度这边，也就是 Shenyou 所说的那个。你不觉得这感觉上不如摆弄 GPU 那么靠谱吗？

Alex Zhang [01:32:44]：是啊，我想从某种意义上说是这样。所以你确实提到了，我倾向于以数学导向的方式来思考问题。

Swyx [01:32:51]：范畴，是啊。

Alex Zhang [01:32:52]：而且有时候做 harness 和 agent 相关的工作会让人非常不舒服，因为它太……

Swyx [01:32:57]：因为你觉得所有 harness 都一样。

Alex Zhang [01:32:58]：是啊。所以它超级模糊。

Swyx [01:33:00]：所以你就，比如，在 harness 里搞出两个新想法。明白了。

Alex Zhang [01:33:01]：是的。而且，从经验上讲，至少用我们能拿到的算力，很多发现其实很难验证。但我之所以觉得自己已经转向了其中不少问题，是因为我认为实际上大部分创新恰恰还有待发生。对我来说，GPU 层面只是探索其他想法的手段。比如，你想擅长写 kernel，甚至为了一个更宏大的目标而自动化写 kernel，比如我想探索那些不会因为系统层面的挑战而卡住的想法。从这个意义上说，我猜那里写的很多东西都是 harness 相关的东西，但我也对模型层面的东西感兴趣。不过我就说到这里吧。

Swyx [01:33:48]：好。

Alex Zhang [01:33:48]：是的。

Swyx [01:33:48]：这是个不错的提示。任何，任何。如果人们想联系你，你正在寻求什么帮助？你希望和谁合作？有没有什么号召？

Alex Zhang [01:33:58]：是的。所以，我猜我并没有什么特别需要和别人一起做的事，除非是，比如，除非是和某家公司合作，比如算力方面，或者，比如，和别人聊聊这件事。但我要说的是，我并不。我从不反对和别人一起研究想法。经常有本科生，甚至其他学生来联系我。

Swyx [01:34:22]：播客主。

Alex Zhang [01:34:23]：播客主。通常我会收到一封邮件，内容大概是：“我真的很喜欢 RLM。”比如，“我想一起合作。”而我觉得我

Swyx [01:34:33]：是啊，那是个糟糕的联系方式，对吧？

Alex Zhang [01:34:35]：是的，是啊。

Swyx [01:34:35]：最糟的是那种，“我能请教你一下吗？”

Alex Zhang [01:34:36]：是的。

Swyx [01:34:37]：然后就像，“基于什么？”就像，“读读我的论文吧，老兄。”就像。

Alex Zhang [01:34:39]：他们就会，他们就会说，“我读了你的论文”，带引号的那种，比如，“递归语言模型”，或者像，“Prime Agent”，一个能自我改进的 RLM harness 之类的。这有点像我喜欢。我真的很喜欢有主见的人，即使我们意见不合。我觉得如果你有强烈的观点，并且能够，比如，想清楚你为什么认为这些观点是对是错，因为通常来说，这其实很难判断。但是，比如，你对某些问题有坚定的信念。比如，我，我总是很乐意，比如，聊聊，甚至，比如，可能一起做点什么。我，比如，对于和谁合作或者，比如，我想做什么，都没有限制。所以，是的。

Swyx [01:35:12]：没有限制？

Alex Zhang [01:35:13]：是的。我。在智能体的时代，我觉得你能做的工作多得多，比如，从带宽的角度来说。所以我。是的。我觉得总的来说，比如，我并不难被打动，但我觉得只是需要一点点努力去

Swyx [01:35:30]：是的

Alex Zhang [01:35:30]：差不多。是的，知道

Swyx [01:35:32]：是的

Alex Zhang [01:35:32]：知道自己想要什么。

Swyx [01:35:32]：这非常清楚。而且比如，当你看到一个新东西出来，执行得好，想法好又简单，然后，比如，就抓住那个

Alex Zhang [01:35:40]：是的

Swyx [01:35:40]：立刻就能抓住你的注意力，对吧？

Alex Zhang [01:35:41]：我会很兴奋。是的。

Swyx [01:35:42]：其实，比如，要获得所有前沿实验室那些人同样的关注，并没有那么难

Alex Zhang [01:35:45]：是的

Swyx [01:35:45]：因为他们在找你。你只需要把自己展示出来，对吧？

Alex Zhang [01:35:48]：正是，是的。

Swyx [01:35:49]：不过，是的，确实如此。我想说，我觉得现在人类的注意力非常稀缺，而我确实在挣扎，比如我手头同时进行的项目数量。

Swyx [01:35:57]：而且，我不知道该怎么管理它。我觉得智能体一点忙都帮不上。

Swyx [01:36:00]：比如，我就只是给它提示，然后。我会给一个东西写提示，然后就再也不看它了。

Swyx [01:36:03]：对吧？比如，这非常常见。

Alex Zhang [01:36:05]：是的。

Swyx [01:36:05]：是的，这很糟糕。

Alex Zhang [01:36:06]：我猜，也许。其中一个较小的差异在于，比如。其实，也许你当时在做研究。我不确定。但至少对我来说，比如，我可能会有，比如，10 到 15 个不同的想法想做，但问题是，比如，其中大多数都是糟糕的。

Swyx [01:36:20]：是的。

Alex Zhang [01:36:20]：而且这也许对主动联系我的人也是如此。比如，也许这个想法实际上很糟糕，但在我看来却很有趣。所以，比如，我们可以花，比如，一些时间去研究它，如果，比如，我们觉得那里确实有点东西，比如，那么我们就。我们就应该花接下来几周时间真正去追求它。而且，比如，这就是我的风格。顺便说一句，这就是我喜欢读博的原因，因为有些时候我就只是在思考问题，比如，也许在跑步的时候，或者只是，比如，打网球之类的。比如，我并不是，我猜，我并不是在工作。但就像那些是最有趣的时光，然后当我，比如，真的对某件事深信不疑时，我就会，比如，放下一切，直接去做。

Alex Zhang [01:36:52]：比如，就花，比如，我所有的时间去思考和工作在那个问题上。然后，一旦你到了，比如，你可以直接跑实验的阶段，那么它，它，它又有点像轻松滑行了，所以。

Swyx [01:37:03]：是的，抱歉。这是

Alex Zhang [01:37:04]：好。没问题

Swyx [01:37:04]：比如，倒数第四个问题，我觉得很多人也在把科学视为下一个前沿，比如物理科学、生物，甚至数学。你如何区分，比如，我猜，比如说你选择适用于产业的项目，然后也许它部分——项目选择就只是，比如，科学？

Alex Zhang [01:37:27]：其实我在开始读博之前就做过，比如，AI 用于生物之类的东西。从那以后这个领域变化很大

Swyx [01:37:33]：是的

Alex Zhang [01:37:34]：我得说。

Swyx [01:37:34]：因为，这就像，以前它是理论性的，比如，当然，你什么意思？比如，我有一条路，然后

Alex Zhang [01:37:39]：是的

Swyx [01:37:39]：我选了那条。但现在很多人都在跨界。

Alex Zhang [01:37:41]：是的。

Swyx [01:37:41]：而且，比如，所以我们开了一个科学播客，就为了覆盖那些东西

Alex Zhang [01:37:44]：哦，哇

Swyx [01:37:45]：因为很多工程师会说，“嗯，其实那里有可解决的问题。”

Alex Zhang [01:37:50]：是的。我先说明，我对很多这些主题的理解可能相当有限。但我觉得，比如，如果我发现了，要么是因为有人联系我，要么是，比如，我看一个问题然后想，“嘿，比如，我们现在使用或正在思考的一些设计原则其实对这个问題很有意义，”我也会为这些感到兴奋。但我觉得这更难。我不知道。我觉得在。我觉得科学，尤其是像实证或应用科学，有非常长的，比如，那叫什么？比如，反馈循环之类的。

Swyx [01:38:23]：是的，它收敛到一个机器人学问题。

Alex Zhang [01:38:25]：是的。对我来说，还有这个方面，比如，现在什么值得我投入和押上时间？因为，比如，也许我花了很多时间在这个问题上，然后，比如，六个月后，比如，一个不同的解决方案，有点像也许一个新模型出来了，然后就像，“哦，它在这方面好多了。”所以我确实得小心。我，比如，你得意识到，比如，你认为事情可能会往哪里发展。

Swyx [01:38:47]：是的，没错。

Alex Zhang [01:38:47]：所以，是的。

Swyx [01:38:48]：发布周期。

Alex Zhang [01:38:49]：是的。所以

Vibhu [01:38:51]：然后我就可以直接告诉 ARC-AGI-3，它饱和了。我们做到了。

Alex Zhang [01:38:54]：是的，ARC-AGI-3 在不到一年内就饱和了，所以有点？就像，它。我不知道。比如，如果你是一个实验室，选了那个问题，比如，你现在可能有点难过，因为实际上

Swyx [01:39:04]：是的。嗯，所以正是这样。这就是为什么知识工作、游戏，所有这些都饱和了。

Alex Zhang [01:39:08]：是的。

Swyx [01:39:08]：现在它们实际上，前沿是科学。所以

Alex Zhang [01:39:09]：是的。

Vibhu [01:39:10]：知识工作饱和了。

Swyx [01:39:12]：是的。GDP val 大概是 80 多，90 多。

Swyx [01:39:16]：比如，有，有 90 到 100% 那显然会

Alex Zhang [01:39:20]：会很难说

Swyx [01:39:21]：10 年。但是，比如，嗯，下一个低垂的果实会是

Alex Zhang [01:39:25]：这说得通

Swyx [01:39:25]：其他东西。

Alex Zhang [01:39:26]：是的。也许我会多想想那个。我实际上，我没怎么太多想过

Swyx [01:39:30]：我其实只是在试着猜你的下一个方向。

Alex Zhang [01:39:32]：不。我会说，因为我觉得尤其是在MIT，那里真的有很多非常有才华的科学家，比如在自然科学领域。而且我觉得，说“我要搞清楚你的问题”几乎有点像是亵渎。

Swyx [01:39:45]：不，事情就是这么做的。

Vibhu [01:39:46]：这很棒。

Alex Zhang [01:39:46]：哦，不，我知道。是的。

Swyx [01:39:47]：所以我采访了做过IMO那件事的Yitai。他就说

Alex Zhang [01:39:50]：哦，是的。哦，对。

Swyx [01:39:50]：“我从来没，我从来没去过IMO。我甚至不知道那是什么。”这是个技能模型，老兄。

Vibhu [01:39:55]：是的。

Swyx [01:39:56]：这有点，非常不尊重，但，随便吧。但这就是为什么，是的。

Vibhu [01:40:00]：是的。在某个时候，你得尊重，好吧，进展正在取得。

Vibhu [01:40:05]：比如，数字正在被输出，对吧？

Alex Zhang [01:40:07]：确实。是的，确实。

Swyx [01:40:08]：是的。那是个非常大的教训。这非常有意思，因为数学家们现在对NARI系统的反应就是这样。

Alex Zhang [01:40:13]：对。是的。

Swyx [01:40:14]：比如，Terry Turnstow就说

Vibhu [01:40:15]：Turnstow

Swyx [01:40:16]：“不，比如，咱们别，咱们别用AI。”

Alex Zhang [01:40:17]：是的。

Swyx [01:40:17]：我就想，“嗯，我不知道。”

Alex Zhang [01:40:19]：嗯，是的。我觉得整件事有点奇怪，因为我觉得，我觉得如果很多人之前没有和OpenAI合作过，他们的理由会更有说服力，比如在这一切发生之前。

Swyx [01:40:30]：不，那是人身攻击，而且他们真的在努力避免那样。那又怎样，对吧？

Alex Zhang [01:40:34]：那又怎样？是的。

Swyx [01:40:35]：怎么说呢，我不知道。那又怎样？他们确实……他们、他们合作过。我也会和那些我不同意的人合作，

Alex Zhang [01:40:39]：我想这是真的

Swyx [01:40:39]：我不同意，或者

Alex Zhang [01:40:40]：确实

Swyx [01:40:40]：随便吧。

Alex Zhang [01:40:41]：是的。确实。

Swyx [01:40:41]：或者，比如，我做了件事，现在又后悔了。我改主意了。随便吧。

Alex Zhang [01:40:45]：是的。

Swyx [01:40:45]：所以我会捍卫他们那么说的权利。但就像，是的，很多人有理由不同意他们。

Alex Zhang [01:40:50]：是的。

Swyx [01:40:51]：好，酷。感谢你加入我们。恭喜你到目前为止取得的成功。我真不敢相信你博士还没读完。

Alex Zhang [01:40:58]：嗯，才第二年？

Vibhu [01:41:00]：是啊。真不敢相信我们做这期播客居然没聊那篇RL论文。

Swyx [01:41:05]：他有个、他有个定义。

Alex Zhang [01:41:07]：我觉得那篇论文更多是关于实证结果。实际的想法其实挺简单的。

Vibhu [01:41:11]：是的。而且你已经讲过很多次了。

Alex Zhang [01:41:13]：是的，到这时候了。我觉得现在有更多有意思的东西值得看，所以。

Vibhu [01:41:17]：酷。

Alex Zhang [01:41:17]：是的。

Vibhu [01:41:18]：嗯，我们很期待看到你接下来做什么。

Alex Zhang [01:41:19]：非常感谢。