Revolut 自托管 GLM 模型，AI 编码推理成本降低约 90%

英国金融科技巨头Revolut已将其AI编码任务的推理成本降至此前在Anthropic和OpenAI上支出的约十分之一。

该公司通过在中国AI实验室Z.ai提供的专用NVIDIA GPU上自托管开放权重GLM模型实现了这一目标。

这家欧洲数字银行表示，在2000名工程师的样本中，该部署还将工程交付周期缩短了70%，编码时间减少了60%。

负责Revolut AI运营的David Abitbol在AI Engineering大会的一场技术会议上透露了这一消息。

“自托管GLM将我们的混合token成本降至每百万30美分。我们现在的账单只有此前在Anthropic和OpenAI上支出的十分之一，”他说。

Revolut在7月的一次二级股票出售中估值为1150亿美元，高于去年11月的750亿美元和2024年的450亿美元。

该交易巩固了其作为欧洲最有价值私营科技公司的地位。

该公司于2025年1月开始试验AI工具，最初引入Gemini用于内部数据访问，随后测试了Anthropic的Claude Code。

由于担心商业AI成本——部分工程师每月花费1000至10000美元却没有明确的投资回报——Revolut实施了严格的使用预算。

Abitbol表示，公司随后开始寻找方法，让工程师能够不受限制地使用AI编码工具，同时不产生与之相当的商业推理成本。

2026年4月，Revolut开始自托管开源模型，并最终选择GLM系列用于编码工作负载。

Abitbol表示，Revolut下载模型权重并在美国基础设施上运行推理，而不是将请求发送至中国托管的推理端点。

Revolut发现，取消token限制也让工程师减少了在搜索文档、管理收件箱和协调开发任务等活动上花费的时间。

支持该部署的基础设施由56块NVIDIA B200 GPU组成，为约2000名运行GLM-5.3的工程师提供服务。

Revolut的目标是将首token时间控制在三秒以内，Abitbol称延迟超过五秒就会引发工程师抱怨。

该公司以约每秒200个token的速度处理交互式工作负载，不过在下午5点之后GPU需求较低时，工程师可获得高达每秒800个token的吞吐量。

“开源现在是Revolut的优先事项。经济上有利，计费是固定的，我们月底不会有任何账单冲击，”他说。

该公司还在不增加GPU的情况下提升了推理性能。

从4月到8月，每秒请求数从约3次增加到7次以上，而首token时间从超过10秒降至约1.6秒。

这意味着在需求增长76%的情况下，性能提升了88%。

Abitbol将这一提升归因于推理优化，而非单纯增加计算容量。

Revolut并未完全取代商业模型。它仍使用Claude Code、Codex和Gemini等前沿工具处理包括图像识别在内的专门工作负载。其内部托管的GLM模型承担大部分编码任务。

10月，CEO Nik Storonsky表示，Revolut正在开发基于客户交易数据训练的专有AI模型。

他提到该公司每天3000万至4000万笔交易是训练数据的来源。