我对开放模型与网络安全风险的判断错了吗？

我对开放模型与网络风险的判断错了吗？Nathan Lambert，2026年10月30日

上周，在一连串严重漏洞披露（包括 PHP2Shell 和 GitLab）之后，我创造了“黑色十月”一词，标志着 AI 模型的网络风险开始成为现实的时刻。我开始写这篇文章时，新闻周期似乎已经稍微稳定下来，但随后又传出币安发生另一起重大加密货币安全事件的消息。加密货币行业有着非常悠久的黑客攻击历史，所以它并不是表明漏洞会转化为新的社会危害的最佳行业。尽管如此，我们仍然在很大程度上生活在这一事件的影响之中。

对网络安全领域正在发生的事情，最好的猜测是幕后工作只是加速了，投入了更多人和资源来试图修补互联网——《华尔街日报》报道称网络应急响应人员不堪重负，这看起来像是系统在正常运转。我们正身处漏洞数量指数级上升的这一情节之中，而这一趋势要在S型曲线的顶部趋于平缓还需要很长时间。

几周前，在漏洞披露迅速加速、黑客攻击报道增多之前，我写下了以下观点。它一直收到相当持续不断的反馈，有些是毫无希望的嘲讽尝试，也有一些合理的讨论，所以我想阐明我的立场。

开放权重的Mythos在四月份发布本来会没事吗？

当 Claude Mythos 发布时，它被预告得仿佛是一类新型网络武器，一旦落入坏人之手，就会造成大规模的社会动荡。

看来这种说法是错的。

从各方面衡量，GLM-5.3 才是跨过那道能力门槛的模型，而公开证据几乎没有显示情况发生了多大变化，况且距离该模型权重发布已经过去一个多月了。

事实上，我还要更进一步。如果 Claude Mythos 意外以开放权重形式发布，世界似乎大体上也不会有事。是的，网络安全事件会明显增加，模型泄露对社会也不利，但那更像是一种风险的加速，而非阶跃式变化。

这场新一轮开放权重恐慌的主要鼓吹者实际上一直在做出一个可证伪的预测——当前这些开放权重模型将会通过瘫痪我们的网络基础设施，造成实质性的、前所未有的 AI 危害。

根据我掌握的所有证据——我在上文已经逐一剖析——他们的预测注定是错的。至少现在，在围绕开放权重风险争论了这么多年之后，我们终于要开始得到一些真正的答案了。

为了开始这段反思，我想做更多的尽职调查，找出一些证据，来核实这样一种说法：AI 安全社区当时的反应，就好像开放权重的 Mythos 会是一场真正的灾难，而不只是令人头疼的麻烦。这显然是我在亲历网络讨论后留下的印象。我曾受到批评，说前沿 AI 社区从未说过它会是一场“真正的灾难”，但不管他们究竟说了什么，关键始终在于人们如何听取并内化你的信息。

以下是一些我觉得过于夸张、且出自知名人士之口的措辞示例，这些说法流传到公众、更重要的是联邦政府的视角中，让他们认为这是一种网络武器，包括：

80,000 Hours 播客主持人 Rob Wiblin 在其本人的播客中（2026年4月10日）表示：“如果它落入犯罪分子或敌对国家网络行为者之手，那将是一场真正的灾难。”

Anthropic 在 Project Glasswing 公告博客中（2026年4月7日）表示：“鉴于 AI 的进展速度，用不了多久，这类能力就会扩散开来，可能超出那些致力于安全部署它们的行动者。对经济、公共安全和国家安全造成的后果可能十分严重。”

再举一个实际上更合理的例子，来说明正确与夸张之间的细微界线，来自 Zvi Mowshowitz（我在很多问题上并不同意他的看法）于 2026 年 4 月 9 日所说：“Claude Mythos 会为攻击者提供一份零日漏洞的丰盛大餐，几乎涵盖地球上所有软件……那将是一片混乱。”迄今为止，这种混乱仅限于那些运营大规模数字产品的人，这是好事，但情况可能会改变。

我在很大程度上仍然坚持几周前写下的上述内容，但我对此感到不安。我不是网络专家，我正在努力做出尽可能最有依据的预测。“我们所有的科技公司都需要加倍努力来保障我们的安全”与“公共基础设施实际上正在瘫痪”之间只有一线之隔。在撰写本文时，非常清楚的是，在流行工具中发现的严重漏洞要多得多，而修复措施也正在构建中。

例如，Epoch AI 最近发表了一篇不错的文章，介绍他们内部使用 GLM-5.3 尝试寻找漏洞并将其串联成可能构成攻击的工作。他们在 Firefox 中实际发现的漏洞很好地说明了为什么网络风险需要多个因素同时具备才会造成危害：

我们使用 GLM 5.3 创建了一个网站，Firefox 用户只要访问该网站，无需进一步交互，攻击者就能从用户电脑中窃取文件。

在这里，漏洞存在于 Firefox 中，而潜在的黑客需要植入一个寻找该漏洞的网站。这是可行的，并且可能造成严重后果，但仅仅找到漏洞只是多阶段过程中的一步。

在上一篇文章中，我本应更具体地说明，对于网络安全的未来而言，“还好”究竟指什么；而在这里，它意味着要更多地肯定 AI 安全社区中的一些人——他们相当合理地讨论了这一网络不稳定的新阶段。回想起来，我不确定“还好”是不是描述必然到来之事的最恰当用词——那是一场被迫的行业更新，转向与软件协作的新方式，这显然代价高昂，并伴随着一些艰苦的工作。如果你已经对 AI 带来的挑战感到忧心，那么我认为“还好”其实非常贴切。如果你没有把一段动荡期计入预期，“还好”就说得太轻了。我已多次写道，我属于前者：困难会到来，群体——但我认为人类擅长在问题中摸索前行，并修补眼前的关切。

我的观点更接近于：开放模型正在攻防方程中提供平衡，而Mythos更早出现并不会大幅颠覆这一点。我怀疑这些公司中的大多数会比攻击者更快采用开放权重模型，因为大多数攻击者的资源比这些公司更少。我们正在观察的一个关键平衡点是，攻击者有多愿意在美国及其盟友境内造成人身伤害。目前，虽然我们的对手很可能已经利用这些模型和漏洞以隐蔽方式大规模提取信息，但尚不清楚是否有某一方会通过将全部力量施加于公共机构来造成大规模伤害。

我认为这条推文以一种有趣的方式概括了黑客行为中的人员/动机差距：

一旦你不再把威胁行为者看作是想方设法闯入系统的黑客，而是开始把他们看作拥有明确业务流程的企业，生活就会轻松很多。

面包店不会因为狗粮短缺就转行生产狗粮。ClickFix 和钓鱼攻击的行为者也不会仅仅因为出现了一个严重 CVE，就放下一切去凭感觉编写漏洞利用程序。

事实上，唯一利用这个漏洞的行为者，正是那些以利用漏洞为惯用手法的行为者……这并非巧合。如果你了解威胁行为者的行为模式，这完全是可以预见的。

以我所在的位置来看，我预计这些漏洞大多是由闭源模型发现的，但我对这个预测的误差范围非常大。这在很大程度上取决于开放模型近期实际被如何使用。如今，开放模型的服务成本很高，而服务最大模型所需的算力极度售罄（我怀疑，如果开放模型很快被用于黑客攻击，那会是通过一个安全防护薄弱的开放模型 API）。长期来看，我非常有信心，随着算力供给变得充裕，开放模型的利润率和价格会被压低，但短期内闭源模型显然更具价格优势。我的许多立场都是为了确保我们走向这个未来，否则就会是少数几家公司既在构建生产大量软件（带有漏洞）的工具，又在出售修复这些软件的工具。

目前，我们正在处理积压的网络安全漏洞，同时从以人为中心的互联网过渡到由智能体介导的封闭式人类活动孤岛。

我认为这一切更多关乎 AI 的能力与扩散本身，而非开放模型与封闭模型之争。事实上，在阅读更多以网络安全为导向的讨论时（例如 Joshua Saxe 或 Chris Hughes 的一些例子），我感觉他们更关注生态系统视角，关注网络攻击的利用率和总体损害早在 ChatGPT 出现之前就一直在增长，以及这些近期事件如何符合趋势。只不过这条趋势线是指数级的。下面是 Saxe 提供的一张该趋势的示例图——这类生态系统层面的图表会非常清晰地显示，如果 AI 的能力与扩散是网络攻击的瓶颈所在（那会呈现为一个阶跃变化）：

图片来源：Joshua Saxe

在与AI社区、尤其是AI安全领域的亲近人士交谈时，我发现大量精力被投入到弄清开放模型是否该为此负责上，而我们对此的证据仍然极其薄弱。在近期的黑客攻击中，闭源模型扮演了非常重要的角色，至少比开放模型更多。网络安全确实是一个社会性问题，仅靠AI公司无法解决。努力需要花在更高层次的抽象上。这是我们需要用AI来管理的众多风险和转型中的第一个，而其中没有一个能仅靠以旧金山为中心的科技行业来解决。

感谢Seb Krier对本文的反馈。

如果你有兴趣与你的团队分享Interconnects，我提供分级折扣的团体订阅。如有兴趣，请联系我！