开放模型只剩 6 个月?Nathan Lambert 谈监管收紧与蒸馏之争
Nathan Lambert 认为,针对开放权重模型最严峻的一次可行性考验正在发生,白宫正讨论通过新的行政令管理开放模型,可能只影响中国来源模型和政府用途。他判断最可能的动作是在未来 6 个月内禁止或无限期推迟能力明显超过 GPT 5.5、Claude Opus 4.8 或 GLM-5.2 区间的开放权重模型,而这类模型目前最可能来自中国公司。他批评 Anthropic 主导的蒸馏议题已演变为监管俘获,并认为若美国单独禁止相关模型进口,全球开源生态仍会继续,反而让美国自身更难预测。
区,迫切需要坚守底线:在蒸馏对话上做出任何让步都是不可接受的。 Anthropic应当努力保护自己的知识产权,但他们不应要求政府固化其地位,并在此过程中可能使美国与全球开源社区隔绝。以我们掌握的信息,除了让实验室自我执行之外,蒸馏问题没有好的解决方案。 我尤其就蒸馏问题写过大量文章。我直接写过它对模型能力和监管环境的影响,你可以在Interconnects上搜索更多字里行间的提及。 蒸馏讨论有一种特别的混乱之处:人们很可能切实担忧中国实验室将Mythos狭窄的网络安全能力蒸馏进一个开放模型。这更多说明的是当前模型API的不安全性,而非蒸馏风险。即便在Claude Mythos处于限制最严的私测阶段时,Discord上的侦探们就未经授权获取了Anthropic的Mythos。迄今为止,模型API仍在被越狱并以非预期方式被访问。 这使能力落入恶意行为者手中的风险扩散速度,远快于任何涉及对1T+参数模型进行复杂微调的情况。我不是网络安全专家,但“只有开放权重模型不安全、API是安全的”这种二分法近年来被严重夸大了。API在概念上应当能够更安全,但这尚未得到证明。 如果Anthropic的模型
匹配字段正文



