中国开源模型进入企业：Red Hat 用 GLM 承接七成推理流量

你可以在笔记本电脑上运行中国的人工智能模型。这些模型功能强大、性能出色、需求旺盛，并有助于解决一个商业问题：AI token 支出。

这正在改变 AI 服务的经济格局，并给前沿模型带来竞争问题。

Anthropic 在周一发布的 IPO 招股说明书中表示，随着各种模型不断涌现，“客户可能会认为，前沿性能的增量提升不足以证明额外成本是合理的。”

在截至 10 月 25 日的一周内，按 OpenRouter 的全球统计，中国 AI 模型占其报告的 token 总量的一半以上。大约一年前，该网站每周使用榜上列出的九个模型中只有一个中国模型。OpenRouter 通过单一 API 提供对多个 AI 模型的访问。

开源企业软件提供商 Red Hat 正在内部试点自托管版本的 GLM——一款来自北京 Z.ai 的开源权重模型。中国科技巨头阿里巴巴广受欢迎的 Qwen 模型也在较小规模上可用。

相关：OpenAI 再次下调模型价格

Red Hat 杰出工程师兼 CTO 办公室副总裁 Stephen Watt 表示，工程师们最初担心开源权重模型是否能像专有前沿模型一样强大。但他表示，他们发现这些模型“足够好”。

Watt 表示，主要来自中国的开源权重模型在某些用例中已达到与 Anthropic 的 Opus 4.6 相当的有效性水平。他说，工程师们对放弃前沿模型有所顾虑，但 Red Hat 的使用数据显示，开源权重模型对许多任务来说已经足够。

Watt 在谈到大多数闭源模型相对较高的成本时说：“在 AI 之旅中，不从前沿模型开始是疯狂的，但过一段时间后，继续留在前沿模型上也是疯狂的，因为它会吃掉你所有的利润。”

对中国的模型的犹豫（如果存在的话）通常基于地缘政治担忧。Watt 说，这正在造成对西方构建的开源权重模型（例如 Meta 和 Reflection AI 开发的模型）的压抑需求。

DataCamp 是一个被约 6,000 家组织使用的 AI 学习平台，其 AI 导师在最近一个月分析了约 140 万小时的学习内容。它一直在评估 Google 的开源权重辅导模型 Gemma 4。联合创始人兼 CEO Jonathan Cornelissen 表示，中国模型可能会给一些政府和企业用户带来问题。

相关：企业中“代理式”的兴起

但 Cornelissen 表示，目前开源权重模型的主要限制是基础设施。运行开源权重模型的提供商无法以所需的速度或规模交付这些模型。他说，延迟没有竞争力。有些提供商有速度但缺乏容量，而另一些则在响应时间上不达标。

目前，DataCamp 正从 Anthropic 转向 OpenAI，Cornelissen 称他认为后者成本更低。它尚未将其导师迁移到开源权重模型。

芝加哥 Beermann LLP 的合伙人、网络安全咨询公司 Steele Fortress 的创始人 Jonathan Steele 在 MacBook Pro 上本地使用 Qwen 模型处理计费和其他敏感任务。他还在其他工作中使用 Claude 和 ChatGPT。

开源权重模型的经济性可能很有吸引力，但其实用性取决于基础设施和输出质量。

比较成本并不简单。如果一个开源模型可能需要半小时生成草稿，但需要五小时的律师审阅，而一个前沿模型可能只需 15 分钟起草、30 分钟修订，就很难判断哪个更贵。

相关：Anthropic 在 IPO 文件中保持对安全的关注

但一些公司，如 Red Hat，正在寻找从中国模型中获取价值的方法。其 Z.ai 试点最多有 1,400 名工程师使用，其中约 70% 的推理流量流向开源权重模型。工程师有使用前沿模型的预算，并根据他们想要完成的工作在开源权重模型和专有模型之间分配。

对 Red Hat 来说，控制成本是关键驱动因素。前沿模型支出曾无约束地增长。随着开源权重模型的到来，工程师每人每月被限制在 300 美元的配额，以鼓励他们为任务选择正确的模型。

这些配额是实验性的，工程师可以向经理申请例外。Watt 说，外部托管模型的成本从失控到趋于平稳，再到现在的“急剧下降”。

未来，涉及中国 AI 模型的地缘政治问题可能会加剧。美国国土安全部本月禁止联邦民事机构使用中国 AI 开发商 DeepSeek 的 AI 技术，理由是存在“多种威胁向量”，包括可能向中国传输数据。但该命令并未区分 DeepSeek 的托管版本和企业可在本地服务器上运行的版本。

自主攻击性安全公司 Xbow 的 AI 负责人 Albert Ziegler 表示，该公司测试过 GLM，但未在生产中使用。但他并未排除开源权重模型。他的标准是相对于成本的性能、安全基准和客户接受度。

在 Xbow 的测试中，GLM 有时需要比闭源模型多得多的 token 来解决问题，抵消了其大部分价格优势。Ziegler 说，对于其生产应用，其他闭源模型——在此例中是埃隆·马斯克的 SpaceXSI 的 Grok——效率更高。

Ziegler 的一个广泛担忧是开源权重模型可能带来的危险。

Ziegler 预测，一年后，开源权重模型将比今天的闭源模型更好，“而且好相当多”。他认为这可能会令人恐惧。“人们可以在自己的私有集群上托管这种水准的模型，不受任何限制。”