与 Epoch AI 的 JS Denain 辩论 RSI、中美差距与模型能力参差

26 3 3 1× 0:00 当前时间：0:00 / 总时长：-1:05:28 -1:05:28 您的浏览器不支持音频播放。请升级。与 Epoch AI 的 JS Denain 辩论 RSI、中美差距与参差 播客第 19 期 Nathan Lambert 2026年9月22日 26 3 3 分享 文字稿 本期嘉宾是 Epoch AI 的 Jean-Stanislas “JS” Denain，他领导该机构的洞察团队，也是我越来越常与之辩论 AI 现状与走向的人之一。我们曾就我近期许多最喜欢的文章在网上和/或私下进行过后续讨论，所以我想在一期公开节目中深入探讨其中的细微之处。

本期播客的一大要点是，JS 和我对我们将走向何方都抱有极大的不确定性，而这是我们迄今为止陈述各自观察的最佳努力。

章节/主题包括：

00:00 对 RSI 的预测

18:15 机器人技术在 AI 加速中的作用

24:20 中国模型落后多少？

27:39 蒸馏能解释这一差距吗？

40:58 中国招聘信息揭示了其实验室的哪些情况

48:13 开放模型还是封闭模型更安全？

58:10 Epoch AI 如何运转

1:00:55 前沿后训练配方是什么样子

祝收听愉快！

更多来自 JS 的内容：Epoch AI 个人资料与文章、X、LinkedIn

在 Apple Podcasts、Spotify 以及你获取播客的任何平台收听。其他 Interconnects 访谈请见这里。

00:00:00 Nathan Lambert：我在这里与 JS Denain 一起，他是 Epoch AI 的高级研究员。他领导洞察团队。他是我觉得能从其那里获得关于我写作的最佳反馈的人之一，无论是关于中美 AI 能力，还是现在的 RSI。我只是想开启这场讨论，并且坦诚地与他深入探讨，试图理解他如何看待这些各种问题。而且我认为你有一个非常有用、温和的观点，我觉得你可能比所谓的 AI 进展更快情景还要更进一步。但让我们深入谈谈，比如，当我们看到所有这些关于 RSI 即将发生的宣言时，你认为 OpenAI 和 Anthropic 看到了哪些测量指标？

00:00:47 JS Denain：是的。我认为，他们公开过一些测量指标，对吧？所以，OpenAI 和 Anthropic 都发过博客文章，我是说，Anthropic 至少发过两篇，关于 AI 对加速 AI 进展的影响。我认为至少他们公开的内容，我并不认为这是 AI 能力即将实现自我维持加速、或 AI 研究员工作完全自动化的非常有力证据。但我认为我们看到的那类东西，我觉得 OpenAI 博文中最引人注目的是 AI 系统在模型部署中的使用增加，比如我们看到的 Codex 支出增长。这有点不清楚该如何准确解读，因为也许这是一种测量假象，他们只看了 Codex，但实际上研究人员之前有大量 ChatGPT 使用。但总体而言，比如那张图只是显示研究人员的 Codex 支出每月增长 2 倍，这在我看来确实是一些证据，表明他们很可能从中获得了很大价值。我不认为这是六个月后我们就会有软件智能爆炸的有力证据。

00:01:57 Nathan Lambert：你觉得这是一回事吗？那么，他们内部拥有的信息相对于我们拥有的信息是什么？这显然是假设性的。我们没有这些内部信息。因为我感觉，实验室更新中很多人比我们掌握的信息更害怕。我试着非常认真地对待这一点：他们会看到什么使得加速风险的评论变得更快，其中多少是实质性证据，多少是文化随时间演变？我对证据更感兴趣。

00:02:29 JS Denain：是的。所以有两点。我认为，首先，我想我并不认为，我也不知道，对吧？我在这里没有完整信息。我目前不认为 OpenAI 或 Anthropic 的人现在看到了某些我们没有接触到的具体东西，足以让我们对此更加恐慌。我也不认为……我认为我们目前拥有的公开证据，更广泛地关于 AI 进展，以及这作为一个重要动态的先验理由，我认为已经足够了。我认为要关心 AI 加速 AI 进展这一特定动态，这很重要，值得追踪。然后反馈循环真正启动的紧迫性有点不清楚。所以，基本上关于内部人员能接触到什么，我可以举例说明他们可能关注的各类指标，对吧。我们有可能接触到 AI 系统的能力，但内部团队有他们的 KPI，也许他们看到预训练团队的计算倍增器或其他人们追踪的指标疯狂上涨。然后这些加上对不同团队不同产出如何结合的一些直觉，得出对最终 AI 系统实际性能趋势的预测。所以那可能是一个早期预警信号。我不清楚我们最近看到的讨论是否是那些指标上情况疯狂上涨的证据。

00:04:09 Nathan Lambert：那么，你如何看待 RSI 与生存风险之间的联系？我推测你是同意的。我认为 AI 确实存在非常真实的风险，我很好奇你如何看待这些——我会称之为非常、非常早期的测量——如何改变风险范围上的任何东西。因为我不认为如果你在六个月前问人们，x-risk 在非常理性的人当中会如此迫在眉睫。我认为现在有更多理性的人在再次谈论 x-risk，这让我有点惊讶。

00:04:43 JS Denain：是的。那么，好吧，我的感觉是类似这样……所以个人而言，我对此感到非常不确定，但我确实觉得，是的，基本上接受了——我知道 Evan Hubinger 说过，至少 10% 的 x-risk，在某个我不知道的时间范围内。我想我大概是，是的，我知道，而且这在十年左右的时间范围内似乎相当合理。我只是对此感到极度不确定，但我绝对非常担心这件事。那么，我为什么担心这件事，我认为分歧来自哪里？然后我如何把这与 RSI 的早期感觉联系起来？我的感觉是，我有点是个能力万有理论的人。我认为，而且我认为有些人在这一点上不同意，但我真的认为，所有人之间分歧的主要成分是：AI 系统的能力会变得多大、多快？我有点同意还有其他因素会影响你的经济增长有多大，也取决于你获得的扩散。你可能认为能力会变得疯狂，但 AI 系统会只是对齐且良性的等等，所以没有巨大风险。 但我的感觉是具体地，当我观察人们之间主要类型的分歧时，大多数我看到对那些最极端情景非常怀疑的人……我认为他们只是预期能力不会那么大，或者不会像我认为那些人是——

00:06:18 Nathan Lambert：作为一个能力最大化主义者，几年后会是什么样子？因为我认为我可能站在怀疑的一边，所以请继续。

00:06:28 JS Denain：我认为它看起来，例如，有点像 AI 2027 情景，对吧？我认为它看起来像这样：其机制是 AI 正在自动化 AI 研究过程，我认为，而这是关注它的一个理由。但就对现实世界的影响而言，我认为它像是机器人技术上的巨大进步。我认为是一场巨大的工业爆炸，AI 系统只是在管理工厂。你有这种自我维持的经济，能够以比你预期快得多的速度取得重大科学进展。所以我认为具体地，我预期的那种分歧在于，是的，如果你有 AI 系统，它们既在书本聪明意义上非常智能，但也被训练得拥有更多可供性并敏锐地使用它们，被训练得以高效方式管理项目等等。在实现非常快速的研发进展或获得对人类硬权力方面，现实世界的瓶颈有多大？

00:07:26 Nathan Lambert：是的。我们能详细谈谈其中一些吗？你听了 Dwarkesh 与 Charlie、Beren 和 John 的播客吗？

00:07:32 JS Denain：是的。是的。

00:07:33 Nathan Lambert：是的，因为他们在最后有一个部分，关于各种能力水平以及获得它们的时间线。我感觉我同意大部分……我非常同意他们到目前为止的分布，然后对时间线感到惊讶。其中之一是 AI 研究人员的 10 倍生产力。我认为 Beren 和 John 比我更快。我的大致说法是，我认为从有一个想法到做实验来测试它的周期，我同意很快就会快 10 倍。但我不一定同意我会说 AI 研究人员净生产力会提高 10 倍，我会把这描述为该领域完整理解的速度。而理解是一个与仅仅继续扩展模型不同的轴。我认为这是我在 AI 研究方面的核心困惑之一。所以我只是好奇你如何看待这类事情，以及你可能如何把 AI 研究的 10 倍改进细分为子类别。

00:08:37 JS Denain：是的。所以也许这里可以有一个尺度，即你可能关心的最终事情是 AI 研究整体快了多少？或者 Anthropic 的整体产出快了多少？然后 Anthropic 作为一个公司正在生产一些东西，它在一年内做的事情原本需要十年才能完成。这与个体研究人员的生产力相当不同，在那里我认为你可以……所以如果 AI 研究人员现在做的大部分事情就是你描述的这个循环，那么有可能基于他们现在做的任务，中位研究人员获得 10 倍生产力提升。但首先，这并不意味着所有研究人员都获得 10 倍生产力提升。而且即使你做到了，对吧，还有其他瓶颈会撞上，使得那不必转化为 Anthropic 整体的 10 倍生产力提升，对吧？你可以让所有研究人员生产力提高 10 倍，但由于算力或其他事情，公司本身仍然不会那么快前进。

00:09:38 Nathan Lambert：我觉得我有一个类比，我认为初级博士生的工作效率会提高10倍，但从导师的角度来看，他们的研究议程推进速度不会快10倍。而至于这在多大程度上推动了Anthropic的进展，又是另一件很难直接归因到AI能力上的事。我觉得，听Noam那期播客的时候——这是我自己在写这个话题时的想法——现在有如此大量的推理算力上线，我认为Dwarkesh把这一点讲得很清楚，对我来说很难把AI研究的巨大加速与这样一个事实区分开来：我们拥有的算力多得多，而且现在能更有效地把它花在相关问题上。我认为这些因素会同时到来。

00:10:27 JS Denain：是的。所以我认为这个问题肯定是……当你看OpenAI那篇关于他们加速的博客文章时，对吧，他们确实指出了研究人员的Codex支出大幅激增。有趣的是，实际上公司其他部门的Codex支出在春季大幅激增，然后在夏季趋于平稳。但对于研究人员、数据团队或工程师来说，它持续增长，有时甚至加速。所以他们指出了这一点，然后他们试图查看哪里出现了增长，哪些类型的任务使用量增加了。其中很多是工程任务。故障排查任务有所增加。但他们确实指出，对于许多高层战略决策，无论是从轶事角度还是当他们查看会话记录时，似乎都没有发现做出更好的算力分配决策或决定研究方向方面有巨大提升。所以对我来说，这与PI的情况非常相似。所以我认为第一个问题是，多大的改进……想象一下，你在AI研究的那个环节上并没有获得多少AI提升，但AI研究的其余部分真的突飞猛进。那么事情会快多少？另一个独立的问题是，我不知道，这种战略决策有多难？你就不能搞一个视野更长的强化学习吗？或者也许你可以押注于从其他领域有不错的迁移，那些领域中这类决策很重要，然后你最终确实能获得那种提升。

00:11:59 Nathan Lambert：我觉得我的一部分直觉是，科学的面貌会变得如此根本不同，以至于几乎很难用数字来衡量。这是AI之前和AI之后的时代，而我们正处于向一种新方法、新科研方式的快速过渡之中，因为我认为所有会议都准备好被推倒重来，并在未来几年里艰难挣扎。我希望他们能共同想出一种办法，把AI监督纳入审稿等可扩展的环节，因为他们有太多垃圾论文，需要这种把关。所以我不太确定。而在能力方面，我认为AI的进展显然会转化为新能力。有两件事。一是预训练缩放定律。我们的损失与算力的指数增长成正比。而在研究方面，我们所做的是移动这条线，让它有更好的截距，并可能带来更好的斜率。另一边是强化学习环境，我认为我们现在构建的强化学习环境非常有价值，堪比有价值的工作。所以我预计AI模型在可以界定范围的知识工作上会变得好得多。但我不知道我们是否有好的流程来批量产出难上一个数量级的环境，那种更接近治愈癌症、解决这些开放数学问题的环境。我认为数学是一个我们可以讨论的案例。但这有点像，我认为在扩展原始智能而非效率方面存在未知数。所以我对扩展效率非常乐观。

00:13:29 JS Denain：是的。我同意，在某种意义上，对吧，推理效率是一个非常像爬山任务的东西。它的范围界定得相当清楚。所以，我的意思是，它已经是趋势非常非常快的东西，但我可以想象这些趋势。是的，我想象这些趋势会变得更快。这看起来确实很像那种……我的意思是，确实，我们有来自OpenAI的证据，对吧？比如通过构建更好的内核来节省服务成本等等，如果你是新手的话。他们没有给出很多细节，但这已经在发生了。实际上，在你的情况下我好奇的一件事是，比如，这里有一种定义Anthropic整体加速的方式，你可以看ECI趋势，比如Anthropic最佳质量点在各个时间点的ECI。然后你可以看当前的趋势线，问这样一个问题：在未来一年里，我们会看到5倍加速吗？比如，斜率会比2025年大5倍吗？我认为我们很可能会看到巨大的增长，因为它是一个相当清晰的KPI，我的意思是，它不字面是KPI，但它是公司追求的一个KPI，当然要排除安全考量等等。我很好奇你是否认为我们极不可能得到这个，还是说更可能是我们可能会得到，但如果我们得到了，那主要是因为ECI作为一个指标被古德哈特化了，而对现实世界能力的影响并没有那么大。

00:15:03 Nathan Lambert：如果真出现了这种情况，我不会感到意外，但我认为这更像是我们正处在一个斜坡上，然后可能会迎来一次爬坡斜率的上升，但随后我们会把我们懂得如何爬坡的部分饱和掉，然后斜率又会降下来。所以，我认为所有我们能测量的东西，都会因为变得可测量而被非常迅速地拉高。然后我们就进入了“我们该如何测量它”的领域。因为我觉得，就像我和那些正在尝试的人聊过……现在构建评估（evals）实在太昂贵了，而且我确实认为评估将会是：它在编程上有多好、多高效，它在机器学习研究上有多好、多高效，它在知识工作上有多好、多高效。但我不知道该如何……构建这些评估看起来都是可解的，但很难。但再往下，比如如何在基础化学上取得突破，似乎真的、真的、真的很难测量。我本来想拿前沿数学来举例，但我认为数学是个例外，是AI最参差不齐的部分之一。我认为尤其是数学中的开放问题，是快速改进的AI的完美目标，因为它是可证伪的东西。而且，如果我们比如说在某个开放得多的事情上看到这种情况，我想我会大幅更新我的看法。或者如果实验室们出来说：“使用Claude，我们的AI架构发生了非常、非常大的变化”，就像那个著名的Jonathan Frankle–Sasha Rush打赌，然后transformer不再是我们所处的谱系了。我认为任何这类事情如果是由AI大力驱动的，都会让我大幅更新看法。但看到更多数学方面的进展，我觉得我对数学的进展速度感到惊讶，但并没有震惊。

00:16:49 JS Denain：这对我来说很有意思。我绝对同意这种总体感觉。所以，我觉得METR的人在看你的nanoGPT结果，来自自动研究风格的东西，与人类所做的相比，看起来确实存在这种……我认为Tom Cunningham称之为摘苹果模型，即AI在开始时效率高得多，但随后实际上并没有发掘出那么多新想法。你在这类优化器研究中也能看到这一点。是的，我的意思是，关于这个可验证性的点，我想说的一件事是，我认为一个相当普遍的趋势是，你会有一个不那么可验证的任务，你可能会觉得很难为它构建一个环境。但实际上，它只是一个更大任务的子集，而那个更大任务本身是可验证的。只是它的时间跨度更长。一个例子是，有很多来自公司的难以验证的任务。但在某种意义上，收入或其他指标，比如估值，是相当清晰可读的。所以这是一点。我的意思是，另一点是，要预期事情会相当参差不齐。但我认为一个大问题是，是的，对于一个疯狂的世界，你能否获得一场大规模的、自我维持的工业式爆炸？

00:18:05 Nathan Lambert：是的。那么，我们能谈谈机器人和工业吗？因为我有物理机器人的背景，而且我认为机器人趋势看起来会更接近自动驾驶汽车，而不是LLM。我认为很多奇点论点都建立在机器人能够看起来更接近LLM、而不是自动驾驶汽车的推广方式之上。那么，你为什么会不同意？或者，有什么论据能说明大规模工业化和机器人扩张是可行的？因为我的先验如此怀疑，以至于我可能甚至没有给它足够的公正对待，但我非常怀疑这作为可行性的前景，而且主要是在相对时间线方面。我认为它可能在几十年内发生，但我不认为这是一个两到五年的担忧。

00:19:01 JS Denain：说清楚一点，两到五年似乎很难。我想我只是对机器人了解得没那么多。我想你的主要担忧是可靠性真的很难做对，就像它曾经只是一个长尾场景的问题，还是更像是现实世界的事情，会有更多的监管出现？

00:19:21 Nathan Lambert：我认为制造东西很难。我认为，让我们看看。我来带我们过一遍其中一些。例如，我知道像亚马逊这样的地方，他们新建工厂时以机器人为先，这些工厂对他们来说更有效。那么这需要的就是建一个机器人工厂。就美国而言，就像你必须在美国建一个能非常高效地制造机器人的机器人工厂，然后转型它，或者建一个新的、由上述机器人建造的工厂。而我认为美国的再工业化，我认为有很多原因导致它没有发生。我认为在中国可能更有可能，但我也只是没有被AI在视觉和动作模型上的结果说服，认为它们进展得足够快。我想我和多模态领域的人讨论过，他们把这些技术描述为比文本语言模型要原始得多、发展得少得多，并且需要更多根本性的创新，而像代码加RL这样的东西是非常自然的匹配，爬山是非常可预测的。所以——

00:20:35 JS Denain：所以，看起来有两件事。一是机器人能力的趋势不像你预期LLM那样快，二是即使机器人能力很强，建工厂也需要时间。我想我对第二点有点怀疑。我只是觉得，如果机器人能力足够，这个市场的总可寻址市场是巨大的。而且如果你看美国的数据中心，建设速度极快。如果你有机器人真的能替代蓝领人类工人，我觉得财务激励会非常大。我认为美国在某些情况下没有大规模建设，很大程度上只是需求问题。我认为电力就是这种情况。所以我认为在那种情况下，我只是觉得，对，我觉得我们只是，Tyler Cowen那套是什么？不要低估供给弹性，这是我要指出的主要点。我认为在能力方面，我更不确定。特别是，我还有点困惑，也没有真正深入研究过，你实际上能从LLM和基础模型直接获得多少机器人能力？特别是，我的另一个不确定性是，我不清楚极其精细、极其灵巧的能力是否是大规模工业爆发所需要的主要东西。所以，机器人技术最难部分的这个长尾，我不确定它是否是大规模工业爆发的最大障碍。总的来说，机器人技术是我专业知识较少的领域。我感兴趣的是，有多少末日场景最终会通过机器人获得的硬实力来实现。 我认为我的部分不确定性也来自，对我来说是否合理：获得大量硬实力并构成相当灾难性、可能是灭绝风险所需的最低能力，更像是拥有核密码之类的东西？我觉得我对此没有很好的想法。我感兴趣的是更多威胁建模，但我认为部分问题在于，能力趋势是什么，人们有分歧，那么造成这些灭绝级伤害，或者足够灾难性、会永久改变人类轨迹的伤害，所需的最低能力是什么？

00:22:46 Nathan Lambert：是的。我要说的最后一点关于——

00:22:47 JS Denain：我认为这是我想要看到更多思考的那类问题，但是的。

00:22:50 Nathan Lambert：关于机器人技术，我要说的最后一点是，我认为机器人在受限和重复的环境中会非常好，比如制造机器人，而机器人走在街上与人类共居还需要长得多的时间。如果我深入研究这个，我会想要研究和讨论那些正在建设多个不同数据中心的人，他们的工作中有多少多样性， versus 有多少只是你把箱子从卡车上拿下来，把箱子放到某个位置。而我现在没有好的信号来判断这有多明显重复， versus 更多人类灵巧性和解决问题的创造力。

00:23:34 JS Denain：是的。不过目前，环境也是围绕人类设计的，人类在这些方面相当灵活，并且有其他约束。你可以想象设计机器人优先的工厂，我想你提到亚马逊，对吧？现在某种程度上更这样做了。所以你还可以……是的，我认为这就是参差不齐会带给你的东西，即你可能只是会有巨大的加速，包括某些行业的物理世界，即使完全像人类一样灵巧或灵活的能力可能还不具备。主要是，是的。我认为主要是，是的，机器人能力对我来说似乎非常重要，需要追踪。我们在Epoch有一些关于这个的文章，但我们不声称拥有机器人技术专业知识。

00:24:21 Nathan Lambert：是的。我同意。我认为我们可以转向另一个能力话题，即你认为中国顶级实验室落后OpenAI和Anthropic多远？你可以定义你想如何衡量，是公开模型还是内部模型。我认为两者都做实际上很有意思。比如，你会如何描述这个差距？选择你的……这是少数几件我会逼你给个数字的事情之一。

00:24:47 JS Denain：是的。我想我会说，我不知道，大概六到八个月左右。

00:24:53 Nathan Lambert：从公开到公开？

00:24:56 JS Denain：是的。比如，发布日期到发布日期。我没有很好的确切数字，比如内部到公开部署需要多长时间。是的，抱歉，如果你计算模型构建的时间，可能会增加一点，因为我预计OpenAI和Anthropic的延迟会比中国实验室更大。但是的，我不知道，只看ECI，那里有几种不同的方法可以做，而且这些方法之间有相当多的噪声。那些方法还算合理，我的感觉是它们给出的结果大约在六到八个月左右。

00:25:28 Nathan Lambert：我会说，Kimi K3和GLM 5.2更接近两到三或四个月。所以你认为那些是异常，归因于测量或过拟合？所以我和Florian经常讨论这个。而Florian，他帮我做Interconnects， constantly 烦我。我想我直觉上已经落在更接近你的地方。我认为那两个模型，特别是Artificial Analysis，非常接近。我认为Kimi在当时的Artificial Analysis指数中甚至可能低于两个月。我只是把这个说出来，我一直在来回摇摆。

00:26:12 JS Denain：所以我不记得Artificial Analysis指数上特别最新的细节。我的感觉是，由于整理方面的原因或其他什么，它可能低估了差距，但我不想在那里过于自信，因为他们也会更新方法论之类的东西。不过我认为即使在ECI中，也有一些情况更像是四个月。是的，我不知道。四到八个月对我来说似乎合理。我觉得像两个月的话，我会说：“不，那看起来有点过于过拟合了。”我们内部确实研究了一下过拟合在多大程度上解释了这一差距。比如，就做那种类似ECI滞后分析，如果你只是采用基于私有基准的ECI，而不是不基于私有基准的，或者私有基准加上来自模型发布后公布的基准的结果，或者类似的情况，那里没有污染风险。我认为总体而言，那个效应基本上没有统计显著性，这很有意思。我认为如果你只依赖模型卡中的结果，而不是放入ECI的结果，我们可能会得到一些污染或过拟合效应。我仍然认为存在一定程度的，是的，像ECI这样的东西可能低估了差距，因为我确实认为OpenAI和Anthropic可能像是……可能还有其他能力在基准中显现较少，而在那里有更多优化或服务更广泛的用户群体。但是，是的，我不知道。这就是我的总体数字。

00:27:39 Nathan Lambert：如果我们有效地禁止蒸馏，甚至不只是禁止，而是如果蒸馏被有效地阻止，你认为六到十二个月后这个数字会是多少？我认为在RSI没有变得超级疯狂的情况下。我认为如果RSI变得超级疯狂，实验室会领先更多。

00:28:01 JS Denain：是的。按照当前的趋势，我实际上已经更新了看法，认为蒸馏确实是一个非常重要的因素。我们可以讨论不同的因素。那么，好吧，目前如果我说是六个月的差距，那么六个月后，可能实际上并不是字面上的12个月，对吧？所以，我的猜测是，是的，你大概会在八或九个月左右，类似这样。你可能会从六个月变成九个月。

00:28:31 Nathan Lambert：为什么你更新了对蒸馏有效性的看法？

00:28:35 JS Denain：是的。所以我认为，是的，有两个原因。我认为，一个不太有说服力的原因是，我不知道，似乎有更多人在说这是原因。

00:28:45 Nathan Lambert：他们确实一直在说。我对此感到惊讶。

00:28:47 JS Denain：是的。《Stolen Thoughts》那篇论文确实表明，实际上相对容易获取这些东西。是的，还有随机的传闻。我认为另一个重要原因是，我们可以讨论这个，思考对滞后现象的其他解释，而这些解释似乎不像我最初想到时那么有说服力。我确实认为Claude routers那件事看起来也相当重要。最初当我想到蒸馏时，我没有考虑到这一点。但我确实认为，Claude routers提供了适合现实使用场景等的正确提示分布，这看起来相当有用。

00:29:26 Nathan Lambert：但这些公司现在也有自己的使用数据。而且我们也有基准测试。所以基准分布我们已经有了。所以我不一定认为蒸馏在……我认为路由器可能非常有帮助，但我对那个提示分布的说法感到困惑，因为一旦你有了基准分布，你只需制作相似的示例或找到相似的示例。

00:29:50 JS Denain：是的，我同意。所以我认为 Claude 路由器只是给你提供了一堆有用的数据来训练，这通常会提升能力。我认为这是一种解释。我同意，给你正确的提示分布，我认为对现实世界的能力会很有用。我同意，如果纯粹是在讨论这个 ECI 滞后之类的，那么是的，你只需用基准的提示分布就行。所以我认为在那方面它不会是一个很好的解释。是的。我认为只是……是的。另外，举个例子，人们说中期训练是一件非常重要的事情之类的。我认为实际上在那次对话中，Beren 说：“中期训练实际上能让你完成 80% 的进度。”还有更多这类说法，以及普遍认为 RL 非常有用但并没有做那么多探索工作的观点，我认为这也证明了在语言轨迹上做 SFT 真的很有用。

00:30:48 Nathan Lambert：是的。我想过一遍——

00:30:50 JS Denain：我认为他在一篇帖子中提到，这是一个很好的初始化，但我想我更新了看法，这个初始化真的非常非常重要。是的。

00:30:59 Nathan Lambert：是的，因为我仍然站在这一边：我认为把 RL 做好、把 RL 做得更快从而能做得更大，才是人们获得能力提升的途径。但我最近听到更多关于这种反复……这个框架会是：在中期训练、SFT 和 RL 之间形成一个高度重复的循环，然后你的峰值 RL 会帮助反哺中期训练，而不是一次规模非常大的 RL 运行，这一点我以前从没想过……RL 运行大概是一周。我不觉得它们有多疯狂，尤其是像智谱或 Kimi 那样的。而且那是……所以我能看到这种情况，我当时就想，“我不太确定。”我总体上认为，因为模型变得如此有用，我不知道怎么会……只是看起来，要对中期训练真正起到那种作用，蒸馏的规模得非常大才行。而反方论点是，Kimi 和 GLM 5.3 也是很强的模型，这就好比，如果差距那么小，那帮助会那么大，在我看来就说不通。这就是为什么我仍然持未被说服的立场，但在寻找更多证据。然后还有一些其他的……我面前有我写的一篇博客文章。如果你想更多地聊蒸馏，你可以在我切换到其他话题之前把那个评论提出来。

00:32:21 JS Denain：我想我对讨论替代解释之类的东西挺感兴趣的……我觉得存在这样一个普遍现象：中国实验室的资金少得多，尤其是算力比美国实验室少得多。而这种延迟是巨大的。然后这个，不管是四个月还是八个月，在能力上的延迟比在资金上的延迟要短得多。所以，这需要一些解释。

00:32:48 Nathan Lambert：是的。你觉得中国实验室从完成 RL 到公开发布、让 API 和评测分数可用，仍然明显更快吗？过去我认为发布所需的时间要快得多，而且我觉得现在实验室发布中间版本的速度也更快了，所以我不确定这能在多大程度上解释这一点。但我想说，一年前我会把更多原因归结为：中国模型几天内就能推出，而美国实验室可能要花几个月，这会人为地大幅压缩差距。

00:33:26 JS Denain：为什么这会压缩那么多差距？

00:33:28 Nathan Lambert：因为能力有一条发展轨迹，较高的一方是 OpenAI 和 Anthropic，他们在这里停止训练，然后中国实验室在这里。但随后就好像模型在发布之前一直停滞不前。

00:33:44 JS Denain：是的，我觉得这取决于你用来计算滞后所用的方法……这既取决于你用来计算滞后的方法之类的，对吧？所以我的感觉是，我想当我说四到八个月的时候，我认为这个不确定性区间中的很大一部分也来自：你是通过向前看还是向后看来测量这个方法之类的？或者你如何消解这种不确定性？你是采用这种阶梯式还是那种阶梯式，或者进行插值之类的？所以我认为这些仍然被计入不确定性之中。所以我的猜测是，那并不是一个巨大的……或者说，即便如此，我认为仍然有一个很大的效应需要解释。而且我认为，是的，这些是其他可能的解释，对吧？所以一种可能是算力方面也许有很大的延迟，但在劳动力或者可能是数据方面，延迟较小，而这些是重要因素。所以即使你在算力上落后两年，如果你在数据上落后六个月，而事实上在研究人员数量上领先之类的，或者在研究人员数量上并没有落后那么多，也许这有助于追赶，而这甚至不是溢出效应，对吧？那只是一个原因。是的，还有蒸馏。人们提出的其他解释是，想法可能会泄露，而我不认为那是一个很大的效应。人们可以摆弄一个模型，通过摆弄这个模型，他们多少能推断出它可能是用什么训练的，或者什么是有用的推进方向，这是另一种解释。那些事情并不完全是蒸馏，但把 Claude 用作你的奖励模型，或者用 Claude 来清洗数据之类的，也许会有一些溢出。

00:35:23 Nathan Lambert：让我想想。我试着量化一下。我想说，我认为中国的实验室为了财务方面的原因，会稍微更在意基准测试……其中一些是上市公司，展示出接近的基准测试成绩对他们帮助很大。所以我确实认为他们更在意这个。我不知道这能不能给你带来一两个月的优势。我不知道你能换回什么，比如一两个月。我认为中国实验室很有可能更擅长组织人才，去做那些非常枯燥的爬坡式数据工作。我不认为那是一个巨大的效应，但就像他们拥有大量人才，而且在文化上通过那种方式……我认为很有可能就是更拼。他们实际上可能比美国实验室更有效地拼，这……我不知道是怎么做到的。我不会把太多权重放在这上面，因为我认为这相当接近，但我认为那是一种可能。但那是非常边际的……那不是巨大的领先原因。我会把更多原因归于算力差异，而不是蒸馏。但也许蒸馏作为算力差异是非常相关的，因为它是把……它是一种把金钱转化为非常高质量数据的方式的定义，而那是你本来需要算力才能做到的事情。

00:36:35 JS Denain：是的。我验证过的另一个理论是——我不确定它有多重要——美国存在这样一个数据市场，也许会发生的一件事是，最好的强化学习环境或评估，实际上要弄清楚哪些是最好的，需要耗费大量算力。所以也许数据提供方和 AI 实验室之间存在某种合作，去实际测试并弄清楚哪个强化学习环境真正有效。然后也许那个数据提供方，一旦完成了这一轮迭代——这意味着某家前沿实验室投入了大量研发算力支出——他们就会构建一批类似的强化学习环境，因为他们已经学到了经验，然后他们会延迟一段时间再出售，但仍然会卖给别人，包括中国。

00:37:21 Nathan Lambert：我从别人那里听说过这个。

00:37:22 JS Denain：所以存在这种隐性的研发算力支出，而且它被节省下来了。我不确定这有多重要。

00:37:29 Nathan Lambert：我多次听到过这个说法，包括从中国的人那里听到……这是我听过几次的多跳式传闻，大意是：我们只需要等一段时间，然后就能以十分之一的价格买到 Anthropic 买过的那些强化学习环境。我认为这可能对资本效率有很大贡献，但作为一个相信人的因素在模型进展中非常重要的人——也就是竞争——我认为现在 OpenAI 和 Anthropic 所感受到的竞争的类比，就是概念验证，作为一种让事情变得容易得多的方式。而且我确实认为，OpenAI 和 Anthropic 这类公司，比中国实验室更有可能在 Navier-Stokes、多智能体超大规模扩展这类开放式问题上创新。在跟许多实验室聊过之后，我不认为他们会反驳这一点，但他们大概不会公开承认。但他们就是觉得，跟上要容易得多。

00:38:27 JS Denain：是的。所以那更像是……是的，我描述这个的方式就像是四分钟一英里式的效应：你证明某件事完全可行，然后人们就有了信念去走那条路，不必浪费大量资源去探索一堆其他东西，这就是你在这里指出的东西。

00:38:43 Nathan Lambert：是的。而且我认为这——

00:38:44 JS Denain：我想我是在找一些你认为这……有哪些例子？因为比如推理模型就不是这个，对吧？比如 DeepSeek Math 之类的，远早于 o1。是的，我有点好奇是否……是的，我同意这看起来有点合理，但我不确定我能举出前沿实验室做出重大创新的例子——

00:39:04 Nathan Lambert：我认为这更多是组织结构的问题。也就是说，实验室里有研发和建模算力，我觉得这两者有点被混在一起了。而现实情况是，让下一代模型变得更好的算力，和两三代之后的模型相比，差别非常大。而且我认为中国实验室只是在更短的时间跨度上投入。然后，如果架构或其他方面出现重大创新，并在美国生态系统中传播开来，我猜中国实验室也会搞明白。我不认为架构创新能在 Anthropic、OpenAI、Meta 和 Google 之间很好地保密。我认为这些都会通过人员流动很快泄露出去。

00:39:50 JS Denain：我明白了。所以你认为那确实有很大影响。所以基本上，我觉得看起来你就是认为，用其他解释就能走得很远，以至于你并不真的需要蒸馏来解释差距的一大部分。

00:40:03 Nathan Lambert：是的。所以我认为，如果没有蒸馏，差距会相当接近。而且，光是构建这些模型，就有太多唾手可得的成果，我不认为蒸馏能堵上多少你正在做的那些唾手可得的成果。这很不清楚。就像一旦你把你的推理轨迹确立为……这还没有被证实，但我认为在中期训练和 SFT 中，你的推理轨迹需要有一种相当独特的风格，才能把它堆叠起来，并为模型定义一个明确的推理策略。Kimi 和 GLM 有这一点，我认为他们可以从他们现在的位置修改它。而这就好比，如果 Anthropic 和 OpenAI 变化得快得多，这随时间如何复合，也许更重要。我不知道。听起来我们没取得什么进展。我确实喜欢你那篇关于理解中国招聘帖子的文章，我认为那是一种非常聪明的尝试，试图窥探中国 AI 行业的幕后。所以我不知道你对此有没有觉得特别有趣的东西。就好像，从外部理解那里正在发生的行业太难了。

00:41:22 JS Denain：是的。所以这是 Cheryl Wu 和我的工作。我认为，作为证据来源，它更像是你能从中得到有趣的轶事或有趣的事实。我认为它不太像 Epoch 那种能让你得到一条可以很好追踪的趋势线的东西。我认为某些招聘岗位趋势对此是有用的，但我认为尤其是对中国来说，它更像是，“哦，好吧，你可以看到他们在这个地区招聘数据中心岗位，这似乎表明至少其中一些实验室基本上是在自建数据中心，而不是从阿里巴巴之类的公司租用算力。”所以你能得到一些这样不错的事实。我认为你也能更多地了解不同公司有哪些产品策略以及他们的目标是什么。所以我认为就这一点而言它相当有趣。这篇文章现在是在六月发表的，所以事情变化很快，情况可能已经变了。但是的，我认为在公司策略方面、在他们如何——

00:42:31 Nathan Lambert：你能多谈谈公司策略吗？因为我认为很多东西都被投射到，比如说……中国不同公司的策略上。就像，DeepSeek 的策略是什么？我认为 MiniMax 是其中比较清晰的一个，然后是智谱。智谱有一些本地化部署的东西，但在高层面上，我认为智谱可能更接近 OpenAI 和 Anthropic。但你同意这一点吗，还是你认为他们中任何一个更有明确定义或有更有趣的不同之处？

00:43:03 JS Denain：是的。我的意思是，有一点是，我想我们有这张图，显示有多少个 B2B 销售岗位的招聘帖。举个例子，看起来 Z.ai，也就是智谱，确实比 MiniMax 或 Moonshot 多很多。我觉得他们在国际扩张的意愿上也有不同的策略。我认为 MiniMax 在这方面有相当一部分，比 Z.ai 更多，我想这是我们发现的情况。我觉得还有几件类似这样的事。比如对 DeepSeek，我们没看到那么多。

00:43:40 Nathan Lambert：做完这项分析后，你觉得你能把你们的分类体系交给一个 AI 模型，让它每三个月重做一次吗？你觉得这现在是不是一件 Epoch 几乎可以自动化的事情？

00:43:53 JS Denain：所以我认为我们确实有一些关于招聘帖子的即将开展的项目。我觉得具体到这类事情，我感觉收获有点像是临时拼凑出来的。所以我认为它更多依赖于你手头有一堆这样的数据，然后看什么实际上看起来有意思？而且我相当经常地觉得，LLM 对“前五个最有意思的事情是什么”的评估并不是那么好。但有一个例子，我认为……所以我其实有一个非常粗糙的、靠 vibe coding 做出来的招聘信息追踪器，它看起来质量对 OpenAI、Anthropic 来说更好一些。而且我认为 Epoch 可能过一阵子会有相关的东西。但 AI 相当有用的一个例子就是，我不知道，你只是想合理地把工作分类，看它们基本上是研究岗还是基本上是工程岗？或者也许研究工程岗其实很难，但它们是研究岗还是 GTM 岗？而且团队的结构在不同公司之间不会是一致的，但你可以用 AI 自动地随时间追踪这一点，并有一些一致的类别。这样你就能得到一些趋势，比如，“哦，看起来这家前沿 AI 实验室的招聘出现了激增，而且基本上主要是销售，或者主要是硬件基础设施。”我觉得这挺酷、挺有意思，而且可以自动化。

00:45:14 Nathan Lambert：是的。我觉得如果你再做一次这个，我会很感兴趣你是否会发现关于数据市场扩张的东西，那就像是你的工作是买数据。因为我从很多人那里听说中国的数据市场正在爆发式增长，我也问过各种人，不管是我在实验室认识的人，还是我认识的那些密切关注中国产业的人。而他们就说，“是啊，但我没法让任何人接电话来了解这具体表现为什么、他们的预算可能是多少，”因为 Anthropic 出了名地有十亿美元的预算。而这就好像，我觉得它很快就能变得非常重要，就像算力出口管制的讨论之类的东西。到今年年底，我猜会有一些文章谈论这个并深入报道它。但在我看来，拿到那种报道信息几乎是不可能的。

00:46:05 JS Denain：是的。我觉得数据这块真的很难搞。我觉得对 Epoch 来说，数据一直是个棘手的问题。它显然是一个极其重要的因素，但更难量化或商品化，而且它也相当保密。所以就像，我觉得很多信息都是小道消息。很难知道该信多少。我对中国的感觉是，我觉得那篇文章其实有提到这一点。只是看起来总体上中国公司内部化的东西要多得多，我觉得这也适用于数据。而且有点相关的是，其实有很多实习岗位的招聘。我觉得如果你去看很多这些公司的招聘页面，会专门有两个标签页。他们有暑期实习标签页或者实习标签页，以及普通招聘标签页。而且有很多，我觉得是在招相当初级的人，其中一些可能是为了数据目的。但你也确实看到前沿 AI 公司在数据方面内部化出现了激增。我不确定现在是否还是这样，但 xAI 是唯一一家有这个东西的公司，但它还挺好的，因为如果你去招聘页面，实际上有一个人类数据类别，你可以直接看到他们在招哪些数据岗位。所以在数据方面的招聘信息上也有东西可做，xAI 也是。我之前和 Mercor 以及其他几家做过这个。但我觉得类似地，我觉得最有意思的事情一直是像，“哦，那是个疯得离谱的岗位。”xAI 在招梗图专家之类的，而且更多是零散好玩的东西，而不是大的趋势，至少从我看到的是这样。

00:47:35 Nathan Lambert：是的。我觉得不幸的是，这不会改变。看起来非常像是实验室里的各个团队在数据公司都有联系人，而这一切都是私下进行的，而且这并不……我想就连追踪算力也相当困难，但现在数据中心是一种某种程度上可追踪的体现。而 NVIDIA 是一家上市公司，这就是所做的事情。如果数据公司是上市公司，可能就更容易厘清一些事情了。

00:48:13 JS Denain：同意。

00:48:13 Nathan Lambert：好，我们还有一个应时的话题。你对前沿模型的防护措施怎么看？考虑到在过去 24 小时里，我们得知有三个人使用公开的 Claude 模型入侵了 OpenAI 并获取了内部访问权限，这在我看来简直疯了。你看到这个了吗？这真的让我很惊讶，我们竟然处在这样一个到处漏风的世界里。与此同时，我们却在更加严肃地讨论 RSI 相关的事情。

00:48:46 JS Denain：是的。我简要看到了这个事件。我想我不确定它到底应该在多大程度上算作一个更新，特别是关于模型防护措施，还是说关于公司的安全质量，或者可能两者都有。我觉得这是个很大的问题，对吧？比如，模型防护措施到底有多好？这似乎相当重要，尤其是当人们在谈论开放模型时，显然开放模型的防护措施更差，因为人们可以有更多的可乘之机，但开放模型的能力也更弱。所以就滥用的影响而言，似乎只是一个略有防护、非常强大的模型，对比一个完全没有防护、能力较弱的模型。我觉得先验地看，对我来说有点不清楚，比如哪一个会产生最大的影响。是啊，我不知道。我觉得这是个有趣的问题。我也觉得人们对这个的看法似乎不太一样之类的。似乎有些人相当坚定地认为，至少很难持续地利用前沿模型做真正恶劣的事情。但我觉得，是啊，显然有像这个例子这样的明确案例，或者说是那篇《Stolen Thoughts》论文之类的。看起来防护措施并不足以阻止那种事情发生，尽管公司有强烈的动机去阻止它。

00:50:07 JS Denain：我对此有点困惑。

00:50:09 Nathan Lambert：Stolen Thoughts。我把它写进了一个类似服务漏洞的问题里，就像你能够以可靠的方式越狱 API 功能，把推理轨迹提取出来。我认为中国实验室几乎肯定已经这么干了一段时间。而这可能有助于更清楚地说明蒸馏的效果。我猜他们还有其他方式把这些 token 弄出来，不幸的是，如果真有这么一个突出的方式的话。然后是模型本身，也就是它们对模型施加的防护措施，比如分类器和提示分布之类的东西。我预计这些模型会在某种程度上永久性地存在泄漏。我只是觉得很难想象。如果你有一个对齐程度较低的模型，而任务是“帮我弄清楚如何绕过那个对齐模型的防护措施”，我猜这属于一个强大的网络模型能力范围之内，能找出某种针对另一个模型的越狱方法。考虑到现在这些模型有多容易泄漏，似乎很难永久性地压制住这些东西，尽管号称发布时误报率更高、而且如此通用，人们在其发布时就会不满，而且它们一直在被降级，人们的账户因为做生物研究之类的事情被封禁。所以整件事看起来就是一团很大的乱麻。我会倾向于认为，我猜也许这就是整个 Fable 恐慌事件发生的原因，也就是 Anthropic 说“Mythos 是一件强大的武器”。然后有人告诉政府说“其实很容易绕过它”，然后他们就慌了。但我觉得，蒸馏故事的一部分一直围绕着蒸馏让他们能够扩展、获取危险能力。 但我觉得，如果你要托管 API，你就必须假设在当前和不久的将来，你能够从那个模型中提取出能力，即使它受到了一定程度的防护。

00:52:14 JS Denain：是的。我想有一点是，我不确定他们如何在不同的威胁模型之间排定优先级，但他们似乎确实有某种动机去防止蒸馏。而且也很难知道反事实是什么，对吧？我们有这些人做那些坏事的例子。那些模型被大量使用。这也与以下情况相符：在大多数情况下，这实际上真的很难，而那些人想出了办法，或者出现了某种随机的偶然事件让他们得以做到。所以我觉得我并不真的知道如何根据这些证据来更新判断。但至少在某些情况下，人们确实设法绕过了它。也许一个区别在于，你必须做这件事多长时间？所以有模型的对齐，它存在于模型的权重中，然后还有你可以在当下进行的同步监控。而后者肯定远不如你异步地花费大量算力去解析轨迹、把群体轨迹放在一起分析等等所能达到的检测效果。但那需要更长时间，所以如果某人需要非常快速地发动攻击，那么在当下就太难被检测到。但如果某人想进行一场非常长期的行动，也许就更难。我不确定那些行动需要多长时间，也不确定那些 KYC 措施有多有效。但这也似乎与其他并非关于泄漏能力、而是关于其他滥用情况的案例相关。

00:53:38 Nathan Lambert：我想说得更具体一点，比如说，开放模型带来的风险扩散，你认为有多少是因为人们会部署这些开放模型，或者可以自行部署而不受额外的监督和分类器限制；相比之下，我认为被讨论得更多的是直接把安全性微调掉，而我觉得很少有人会去微调 Kimi K3。但如果这些在推理时能压制 99% 的人的分类器，只是笼统地覆盖了大量风险，我觉得那几乎更有可能。要达到那一步需要一定的过程。你得假设人们能绕过模型防护措施，假设有大量使用。

00:54:20 JS Denain：是的。我想目前微调这件事不是什么大问题，因为同时具备动机、能力和意愿去做这件事的人并不多。而且随着 AI 研究变得越来越容易上手，这个门槛也在降低。不过，是的，我觉得目前基本上没有任何防护措施，或者说我的感觉是，推理服务提供商在这方面不像 Anthropic 那样努力。我可能说错了，但这是我的印象。而且你还可以挑防护最弱的那个来用。所以我觉得这至少目前是更大的问题，是的，我预计会是这样。不过，是的，我觉得这也取决于具体情况。我觉得我最关心的是实际的威胁建模。我只是有点困惑，到底应该把哪类群体当作最有可能用 AI 做坏事的人。然后我觉得，如果有人给出一个具体的场景，那你和我大概都能对“对他们来说，用开放模型更容易，还是试图越狱一个封闭模型更容易”给出不错的判断。我只是目前觉得自己对此还没有很好的把握。但我觉得——

00:55:24 Nathan Lambert：当情况如此模糊时，我觉得这反而让我对近期稍微安心一点，就像这些安全工具现在某种程度上还不够完善，而且已经有强大的开放模型了，但也不像是天下大乱。你得随着情况变化不断重新评估。但我觉得情况似乎不会改变。我不认为会有那么多阶跃式的变化。我个人需要更多了解人们经常谈论的生物风险，我觉得需要……我的问题是，实际的制造路径是什么，模型智能现在处于什么水平？我觉得在网络安全方面，我们已经身处其中了。我们正处于它接下来一段时间会呈现的样子，情况不好，但也不是说还没发生什么可怕的事，还行。我不认为会有更多。

00:56:25 JS Denain：我不知道证据方面的感觉是什么，对吧？公司并不喜欢承认。我觉得众所周知，估算网络安全成本之类的事情相当困难。我知道我们想看看保险成本。我不认为它们变化很大，但现在看看会很有意思。比如网络安全方面的推理价格之类的，你能看哪些百分比，但公司并不喜欢披露自己被黑过，所以有时候他们就干脆付钱了。但没错，确实是这样。

00:56:50 Nathan Lambert：这也是个好观点。

00:56:51 JS Denain：我不觉得自己在这方面有大量专业知识，但我对这些问题的兴趣挺大的。

00:56:57 Nathan Lambert：我很高兴这更像是“我们不知道，情况可能更糟”，而不是“这是一份非常糟糕的事情的清单”。因为当你说“我认为我们需要继续做准备，而且你需要假设 Hugging Face 那样的事情可能发生在你身上”时，很难激励人们。但现在并不是超级、并不是一堆问题叠加爆发的雪崩。

00:57:20 JS Denain：是的。我确实预计 Hugging Face 式的事情会经常在野外发生，而且在 OpenAI 之外。如果只是那样，那也不算特别糟糕。我的意思是，这仍然是一个有点糟糕的世界。但我确实预计未来一年会有更多这类事情随着各种模型、新云等发生。就是一堆人们无法控制的开放源代码智能体。

00:57:44 Nathan Lambert：是的。我确实认为你的威胁模型那套东西是很好的理解，而且就像，谁会试图摧毁一个国内地区的能源电网？我觉得这个名单相当小。而且就像，他们在做什么？我完全不是这方面的专家。

00:58:02 JS Denain：是的。我觉得最大的保障就是，并没有那么多人想干可怕的事情。但愿如此。

00:58:10 Nathan Lambert：是的。好，我有个有趣的问题。我觉得 Epoch AI 为 AI 话语的不同部分创造了大量这类领域设定信息。一件事是，你们选择认为重要的问题时，有没有一个有趣的流程？你们是经常忙不过来、想做不同的事情，还是有时候会觉得“现在就是我们的时刻”？Epoch 幕后以及你们在文化上做的事情，对我来说很有趣。

00:58:41 JS Denain：我认为决定项目选择的是什么，我确实觉得，对我们来说看似重要的问题，整体上相当受好奇心驱动。我觉得这大概就是主要因素，就是什么看起来是件大事，我认为这一直是决定精力投向的主要因素。更具体地说，是的，另一种说法是，Epoch 之所以被创建，是因为当时看起来，无论是产业界还是学术界，都无法就 AI 最重要的趋势提供一个维护良好的优质公共资源。所以看起来是缺了点什么。另一种说法是，我知道，人们有哪些误解，有时候是“哦，人们在网上搞错了”这类事情。有些文章可以用这个来解释。但是的，我认为它非常受好奇心驱动。而且它也就是，哦，有什么泄露信息的证据摆在那里、我们可以利用？比如，招聘信息就是这样的。数据中心追踪也非常是这样。就是，天哪，这些可是大物件。你肯定能看到它们、追踪它们。

00:59:53 Nathan Lambert：你觉得理解 AI 产业所需的信息在你的获取上稳定吗，是越来越难获取，还是随着时间越来越容易获取？

01:00:03 JS Denain：我是说，这真的要看情况，对吧？我觉得数据中心到目前为止至少还挺不错的，而且它们越来越大，这让追踪更容易。我可以想象某个时候它会变成一种真正具有战略意义的资产，届时会有多得多的对抗性压力要求把它们藏起来，或者至少把关键信息藏起来。目前来说还挺好的，对吧？相比之下，Epoch 是一项追踪模型训练算力的努力，而在当时，你只要看论文就行了。用 Astra 来做这件事要难得多。所以是的，我觉得这要看具体领域。我之前提到过一点，就是，数据这方面挺难搞的。我们做过一些相关的东西，但它比算力难得多，而且相当保密。所以是的，我觉得这要看具体领域。哦，对了。还有一点，随着经济增长、公司上市，信息就会更好，对吧？所以这对算力公司是成立的。随着 IPO 发生，这也有助于获得更多数据。

01:00:55 Nathan Lambert：是的。我觉得这非常有意思。就像我长期以来一直想知道，后训练……比如，一家前沿实验室的后训练配方流程图是什么样的？我觉得那会非常疯狂，而且我认为那些流程图确实存在。甚至一些旧的流程图，我觉得也会给人们很多思考，因为我完全不觉得它看起来像 OLMo 那种三阶段近似的东西。我们有一些来自 Nemotron 之类的，还有一些中国实验室发布过相关的东西。但当你听 John Schulman 和其他人谈论后训练时，感觉就像是彻底的蛮荒西部，就是把所有东西堆叠在一起。那种框架，就是关于把一个模型拼装起来有多复杂的那种框架，我觉得对人们来说会非常有用，可以作为一种心智模型，去理解到底在扩展什么、你通过什么在扩展。就像，是的，你在扩展，但如果你是在这种纸牌屋式的东西之上做扩展，那它并不完美。

01:01:55 JS Denain：是的。我其实挺好奇的。是的。我有这样一个……好吧，我能测试一下我目前对此的心智模型吗？这个模型还相当不确定。我的感觉是这样的，好吧，有一个很大的后训练团队，它下面有一些有点专门化的子团队。比如，有些人会做数学，有些人会做生物学或金融之类的。这些团队的工作是申请数据、整理数据、把 RL 环境做好，还要弄清楚哪些超参数在他们自己的领域里效果好。他们通过购买非常高质量的 evals 来做到这一点，把这些 evals 当作北极星来迭代，并购买那些 RL 环境。他们的主要产出基本上就是：“这是一组整理好的环境，这是我们想要的超参数。”然后我的感觉是，现在基本上所有这些团队都会竞标，把自己的一部分数据放进最终的一次大型 RL 训练运行中。他们也会竞标，也许是为了让最终那次 RL 运行的超参数接近他们想要的样子，问号。至少对 RL 过程来说是这样。然后实际上会有一次大型 RL 运行。当然，另一种可能是，他们都各自做自己的专家模型，再把它们蒸馏回……大致是这样吗？这看起来——

01:03:16 Nathan Lambert：我觉得在组织层面，我很大程度上同意。我觉得在组织层面，确实存在按领域划分的专业能力，这也是我不太想去前沿实验室找工作的很大原因，因为很可能我只会被安排去做类似“你来处理这份数据，然后你就按流程走”的事情。我不确定在如何把它们整合起来这件事上，复杂度是不是高很多。我觉得有意思的是，开放权重模型分成了多教师在线策略蒸馏，以及有些只是做顺序强化学习。我认为那里的多样性对行业来说会非常、非常有意思：你是有多次强化学习运行，还是如何决定做哪个环境、哪个阶段？你如何管理中训练和SFT？我觉得中训练和SFT，在前沿实验室里我认为是一个阶段，而基础模型只是在中训练之前，然后你在最后那里做一大堆事情。我只是觉得有很多事情可以做，而且我感觉如果OpenAI和Anthropic的配方更接近中训练然后大规模强化学习运行，如果那真的能把他们带到现在的水平，那我会预期进展比“中训练、分叉、模型合并、一堆专家、MOPD，然后再更多强化学习”要快。我觉得那只是进展上的一个瓶颈，而且能获得更多关于模型训练到底是什么样子的信息会非常有用。

01:04:44 JS Denain：我模糊的感觉是，但我没有特别硬的证据，是它已经更多朝着这个方向走了，是的，远离了带多个专家和大量检查点的MOPD，而稍微更多朝着这个方向：好吧，实际上最后有一次大的运行，但当然，之前有更多的联邦式整合，不过我不确定。

01:05:01 Nathan Lambert：是的，也许我们听到的关于中训练很重要以及蒸馏的传闻，是来自那种循环方式，而不是专家式循环。我觉得我们不会知道。我想我们可以改天再继续聊这个。这很有趣。我觉得当我写东西的时候，你应该继续给出你那些犀利的回应。我觉得这对人们会非常有用，也很高兴终于能多聊一会儿。

01:05:24 JS Denain：同样，是的。非常感谢。

01:05:26 Nathan Lambert：回头见。拜拜。