←新闻详情

MIT Tech Review更新于 10月27日 19:18

让 AI 成为资产而非开支:从按 token 消费转向自建容量

Making AI an asset, not an expense

AI 导读

HPE 与 MIT Technology Review 合作内容指出,当 AI 从试验走向客服、IT、研究等常驻生产工作负载,按 token 消费的模式会让支出变成难以预测的月度变动成本。企业需按工作负载测算自身的“交叉点”,判断持续用量下自建容量是否比逐次购买更经济;Deloitte 2026 企业 AI 报告显示,2025 年员工 AI 访问量上升 5%,至少 40% AI 项目投产的公司比例预计半年内翻倍。

正文 · AI 翻译

当客户谈论 AI 成本时,对话通常从 token 价格开始,以能否在云端使用最新、能力最强的模型结束。他们总是需要那种级别的能力吗?未必。但对话往往就是会走到这一步。

随着 AI 从实验走向生产,模型选择只是问题的一部分。当需求变得稳定且对业务至关重要时,仅靠按量消费的方式会把 AI 支出变成一项每月浮动的可变成本,随着使用量、工作负载和模型需求的变化而难以预测。

到那时,问题就不再只是该消费哪个模型,或者哪个提供商提供最低的 token 价格:而是如何以经济、可预测且可持续规模的方式运行 AI。

AI 正从孤立的试点走向生产组合:助手、检索与知识系统以及智能体应用。客服、IT、研究和业务流程智能体可以跨企业系统执行多步骤工作流,从而在模型、数据和工具上产生经常性需求。

这已经开始发生。德勤的《2026 年企业 AI 现状》反映了许多领导者正在看到的情况:2025 年员工对 AI 的访问量上升了 5%,而至少 40% 的 AI 项目已投入生产的公司比例预计将在六个月内翻倍。

当 AI 成为一组始终在线的工作负载,而不是一堆实验时,经济账就变了。按量消费定价为团队提供了灵活性并限制了承诺。但当使用量变得稳定、可预测且足够大,足以让容量保持高效运转时,领导者需要问一个不同的问题:一次一个请求地购买 AI 是否仍然具有经济意义,还是时候投资于可以优化和控制的容量了?

这不是抽象的云与本地部署之争。这是逐个工作负载做出的业务决策。在未来 12 到 18 个月内,公司可以合理预期多少 AI 需求?这些容量会被多稳定地使用?当多个工作负载共享基础设施时,企业可以将固定成本分摊到更多生产性用途上——从而改善自有容量的经济性。

自有容量并不自动就是成本更低的答案。只有当企业能够让容量保持高效运转时,它才合理。

每个组织都有一个交叉点,即持续使用达到一定水平时,拥有容量可能比一次一个请求地购买更经济。没有普遍适用的数字。它取决于所使用的模型、输入和输出 token 的平衡、性能要求、系统设计、能源成本以及支持它所需的运营模式。

一个检索密集型知识系统的成本特征可能与一个简单助手截然不同,因为它可能为每次交互处理多得多的上下文。智能体工作流可能又有所不同:单个业务任务可能涉及反复推理、检索、模型调用和工具使用。这就是为什么通用的成本基准还不够。企业需要对其实际工作负载建模,了解预期需求,并据此确定容量规模。

在合适的利用率水平下,好处不仅是更低的有效成本,还有更高的可预测性:能够将 AI 容量作为战略性基础设施投资来管理,而不是看着每月支出随模型使用和工作负载需求波动。

资本决策只是问题的一半。即使经济性支持自有容量,只有当业务快速将工作负载投入生产并保持其运行时,容量才能创造价值。

这需要的不仅仅是安装基础设施。它需要一种将技术与采用和业务成果联系起来的运营模式:让用户和工作负载加入进来,治理 AI 的使用方式,审查利用率,并持续识别下一个高价值用例。

目标是尽早创造价值,然后在此基础上继续发展。这意味着衡量使用情况,识别未充分利用的容量,并随着时间的推移将更多高价值工作负载引入平台。没有这种纪律,企业可能永远无法实现当初证明投资合理的经济价值。有了它,AI 容量就成为一项生产性资产,企业可以对其进行优化、扩展,并用来创造可衡量的价值。

在投入资本之前,领导者应该问三个问题:

随着 AI 进入生产阶段,创造最大价值的组织将超越 token 价格和最新模型。他们将知道何时经常性需求需要不同的经济模式——并且他们将具备使该容量高效运转的运营纪律。

那时,AI 就不再是一项开支,而成为一项资产。

本内容由 HPE 制作。它并非由《麻省理工科技评论》编辑团队撰写。

看来,AI 智能体还不够有创造力,无法开展真正创新的开放式 AI 研究。

来源

MIT Tech Review