开放模型只剩 6 个月？Nathan Lambert 谈监管收紧与蒸馏之争

91 7 17 分享 升级为付费即可播放语音解说 开源AI可行性迄今最严峻的考验正在当下发生。自ChatGPT发布以来，我见过一波又一波反开源AI的论调来来去去，但此前没有任何一波在潜在执法上与当时针对同类闭源模型的实际行动有明显对应。这次之所以更真实，是因为新的监管形式正在被测试和实施，而且几乎没有监督。在这一切过去之前，我会写比平时多得多的面向政策的文章。

截至撰写本文时，许多消息来源都在引用白宫关于如何通过一项新的行政令来管理开放模型的讨论。目前没有官方信息，而且这很可能只影响a）中国来源的模型和b）政府用途，但多米诺骨牌就是这样开始倒下的。

开放模型缺乏核心的经济代言人来代表针对它们的行动可能带来的负面影响。从近期围绕Fable（以及随后的GPT-5.6）模型许可协议相关事件的报道来看，关于6月9日发生了什么，有更多说法：

据一位了解该会议的人士称，会上提到了该项目将如何处理开源AI模型的话题。该人士说，美国开源模型提供商Reflection AI的一位代表主张，开源模型应基于其能力获得该框架的豁免。目前，DeepSeek等中国开源模型相比其他可用的开放模型拥有相当大的领先优势，而Reflection尚未推出公开模型。

在这里实施任何形式的禁令，对AI的长期发展轨迹都将是一个重大错误。

最可能即将采取的行动是，禁止或无限期推迟任何能力明显高于GPT 5.5、Claude Opus 4.8或GLM-5.2区间的开放权重模型。鉴于持续存在的能力差距，这应该会在未来6个月内发生。

就目前情况而言，这些模型最有可能来自一家中国公司，正因如此，这场关于前沿开放模型能力的讨论不可避免地与其他问题（如蒸馏）联系在一起。政府“审查权”的能力门槛会随时间推移而变化，但一旦确立，对开放模型的推进很可能远慢于对闭源模型。部分原因是闭源模型更容易保障安全，但也因为闭源模型公司拥有远为有效的游说。

因此，我们处于这样一种局面：有两场关键的政策讨论同时展开，并影响开放模型——蒸馏与前沿能力。它们在性质、回应的必要性以及潜在回应空间上都非常不同。然而，它们共同构成了一个声势渐涨的支持平台在未来6个月内禁止开放模型的论调。

如今推动监管的主要动因是一个不可避免的事实：某个开放权重模型很快将达到Claude的Mythos模型的能力。这个公开发布的模型的实际表现很可能更加参差不齐，但只要它被白宫新生的AI模型检查器标记出来就足够了。由恐惧驱动的新习惯很难扭转。

蒸馏在现阶段很大程度上是一场监管俘获行动，因为摆在桌面上的唯一解决方案让推动它的组织大获其利。

进一步说，这场反中国模型的政治运动由Anthropic主导，他们分享的是一系列博客文章和致议员的信函，详细说明中国公司正在做什么。Anthropic检测到外国公司的使用，也就是人们前来为其API付费，最终切断了使用，然后写下措辞强硬的行动政策建议，并分享了极少的技术证据。这场运动最初可能源于真实的商业担忧，但它已经演变成监管俘获的典型，因为如果被其指控的中国模型制造商遭到禁止，Anthropic的产品将获得巨大的经济安全保障。

如果Anthropic以更中立的“你们决定怎么做”的方式呈现信息，社区会有更多的同情。在一项快速演进技术的前沿，这更像是一项政策建议，而不是一次信息共享。如果Anthropic的技术真如他们所说的那样强大——强大到像它这样的开放模型理应被禁止——那么他们就应该能够保护好自己的API。我一直在等他们解释为什么做不到。他们的某一份声明将不得不被收回。

Anthropic还在以其他方式拉起梯子，限制对智能的获取——因此他们以对华竞争为名提出的政治建议，与一种更广泛的模式相一致：以安全为名限制竞争对手获取相关技术。当许多员工正走在通往世代财富的轨道上时，人们很容易认同这种额外强调安全的公司文化。我不怪员工，但Anthropic的公司战略应当放在这些宽泛的语境视角下来理解。Ben Thompson的文章《Anthropic的安全超级能力》是关于这一主题的最佳写作。

Anthropic实际上在要求的行动，是在美国全面禁止几乎所有中国的开放权重模型——因为任何围绕开放模型构建的产品，都以其持续改进、产品市场契合度提升以及模型变好带来的算力效率提高为前提。这将摧毁美国正在兴起的开放模型经济，包括推理公司、微调公司、新产品以及其间的一切。我们作为一个社区，迫切需要坚守底线：在蒸馏对话上做出任何让步都是不可接受的。

Anthropic应当努力保护自己的知识产权，但他们不应要求政府固化其地位，并在此过程中可能使美国与全球开源社区隔绝。以我们掌握的信息，除了让实验室自我执行之外，蒸馏问题没有好的解决方案。

我尤其就蒸馏问题写过大量文章。我直接写过它对模型能力和监管环境的影响，你可以在Interconnects上搜索更多字里行间的提及。

蒸馏讨论有一种特别的混乱之处：人们很可能切实担忧中国实验室将Mythos狭窄的网络安全能力蒸馏进一个开放模型。这更多说明的是当前模型API的不安全性，而非蒸馏风险。即便在Claude Mythos处于限制最严的私测阶段时，Discord上的侦探们就未经授权获取了Anthropic的Mythos。迄今为止，模型API仍在被越狱并以非预期方式被访问。

这使能力落入恶意行为者手中的风险扩散速度，远快于任何涉及对1T+参数模型进行复杂微调的情况。我不是网络安全专家，但“只有开放权重模型不安全、API是安全的”这种二分法近年来被严重夸大了。API在概念上应当能够更安全，但这尚未得到证明。

如果Anthropic的模型中确实存在真正危险的能力，唯一连贯的行动就是不要将其托管在可直接查询的API中——而这应当发生在讨论它被蒸馏之前。

困难之处在于，在这些蒸馏问题的同时，我们正直面“我们该如何处理达到Mythos一般能力水平的前沿开放权重模型？”这是一个艰难的问题，而人的天性就是把针对另一个问题（蒸馏）提出的解决方案，套用到这个新的、真实得多的问题（前沿能力）上。

我们需要为开放前沿能力制定正确的政策，但一刀切的禁令很可能不是答案。如果这些模型在中国也没有被禁止，那么恶意行为者仍然非常容易使用上述被禁的开放权重模型，这抵消了安全潜力。

与此同时，如果我们单独禁止某些模型的进口，全球开源社区仍会继续。一个美国先于中国或其他对风险更敏感的文化禁止这些模型的世界，很可能表明某种形式的AI恐慌（或其他社会、政治势头）推动美国政府过早行动。这感觉像是在美国加速奔向反乌托邦，因为我们的科技产业——经济的皇冠明珠——看起来更像一个有控制和国家投资的中国体系。这些都是非常糟糕的结果！

给开源进展加上天花板的唯一途径，是就AI模型风险管理达成全球协议，而我们离那还很远。其他拖延使AI在美国的推广更难以预测，也越来越混乱。感觉会很像GPT-5.6的发布，但不同于仅仅把开放、更廉价智能的好处限制在少数几家公司，所有恶意行为者也会立即获得访问权。开放模型通过广泛获取和理解来提升安全，而不是只削弱正面行为者。

现实中，开源生态无法被阻止。构建最好模型的人也在评估风险，因为中国对风险非常敏感，例如Z ai已经是一家上市公司，承受着一整套压力——其中之一就是维持其飙升的股价。只会有越来越多的模型跨越令人担忧的能力水平。训练AI模型并非魔法，而且尽管所需投资增加，我们尚未看到构建模型的门槛下降（目前还没有）。

对于开源而言，这一政策死亡螺旋——一个由相关且互补的可怕问题构成的双螺旋——的短期出口之一，是让一家美国公司发布能力相当的开放模型。这将把焦点从“只有中国在通过蒸馏构建开放模型”转移到“我们同舟共济，应当聚焦于我们生态内部复杂且不断变化的前沿问题”。这对开源而言是关乎存亡的优先事项，而那些有商业理由发布开放权重模型的公司，如微软和Meta（通过商品化其互补品），应当尽快行动。我对Meta在新领导层下的表现信心较低，但他们受益于AI的大规模普及，不应自己给自己设障。如果Reflection手上有一个尚可但并非前沿的模型，他们或许需要发布它，以挽救其拟定的业务方向。

比训练新模型更短期的解决方案是建立联盟。开源是一项分散的技术，没有明确的所有者，但其益处将由众多参与者共享。这些前沿实验室之外的“其他所有人”需要从今天就开始行动，研究如何继续安全地推出开放权重模型（并为自身的原则和价值观游说），以影响当权者。