Inference spending to surpass training for the first time in 2026, rise of Token factories to change AI infrastructure investment logic
English text is being prepared.
Gartner predicts that global inference spending will reach $23.3 billion in 2026, surpassing training spending of $19 billion for the first time and accounting for 55% of total AI IaaS spending; a CAICT report predicts that in 2026 inference computing power will account for 70.5% of total AI computing load. Multiple industry insiders point out that Hugging Face weight downloads and OpenRouter Token call volumes are often conflated as overseas expansion results, but Token call volume does not equal revenue; Token going global is essentially inference services going global, which is more directly related to actual revenue. Public cloud giants, independent MaaS inference service providers, and GPU vendors are all laying out Token factories, with compliance and global low-latency distribution being the main current bottlenecks.
Why read this
AI score 57
The article uses Gartner and CAICT data to show that inference spending has surpassed training for the first time, and distinguishes the commercial value of model going global versus Token going global.
Topics
Body
《科创板日报》10月4日讯(记者 王耐)2026年,AI基础设施投资逻辑正在发生一次根本性的转身。
来看最近的一组数据。Gartner最新预测显示,随着代理式AI提升计算强度,市场重心正从训练向推理转移。预计2026年全球推理支出将达233亿美元,首次超过190亿美元的训练支出,占AI IaaS总支出的55%;该比例在2027年将升至59%。
中国信通院发布的《词元(Token)经济发展研究报告(2026年)》报告预计,2026年推理算力占AI算力总负载的比重将达到70.5%,AI算力需求正由模型训练进一步向推理和智能体运行转移。截至2026年6月底,全国智能算力总规模达2185EFLOPS(FP16);2025年全国累计建成42个万卡级智算集群。
推理需求的真实爆发在何处?
大模型公司在模型能力和参数上的竞逐,哪家大厂买了芯片,哪家模型厂商更新了新一代模型,长期占据行业话题中心。但砸钱买芯片、堆算力,并不直接等同于商业价值的兑现。哪怕资金雄厚的大厂,在月烧数亿美元的算力生意面前,也必须明确战略打法,该省省,该花花。如今,推理需求爆发不是抽象概念,在一线客户场景中已可量化。
今年7月,腾讯QClaw产品中心相关业务和部分团队,调整至AI办公智能体WorkBuddy产品所属部门;今年8月,豆包面向生产力场景发布Agent产品与品牌——豆包工作;今年9月,阿里巴巴旗下千问办公在云栖大会发布一系列企业级AI Agent产品,千问办公同步发布AI Agent随身助理QwenNote A2。
GoodVision AI CEO David Wang认为,2025至2026年是市场的分水岭。“过去企业做AI以试验、POC(概念验证)为主,2026年大量业务进入常态化运行,编程、生物数据处理、游戏AI角色、视频生成成为高消耗场景。”卖Token的生意在部分场景已经跑通商业闭环。
采访中,他也提到一个生物医药客户案例:过去1至2人用7天处理实验数据,引入Agent后压缩至10分钟,Token消耗仅个位数美元。不过,Token数量不等于业务价值和商业收入。David Wang直言:“客户买的不是Token数量,是业务任务完成结果。”通过路由优化减少无效调用和重试,Token消耗下降,任务价值反而在提升。
Token(词元)价值怎么算?据中国信通院发布《词元(Token)经济发展研究报告(2026年)》,不同应用场景的词元价值密度差异巨大,消费级场景属于流量消耗型,价值密度较低,典型如闲聊、娱乐问答等,仅需基础交互能力,价格约0.01美元/百万词元。产业级场景价值密度较高,典型如药物研发、金融量化、精密代码生成等,价值可达1000美元/百万词元,是词元经济的价值高地。
Token出海≠模型出海:流量到收入之间还隔着什么?
根据OpenRouter最新数据测算,9月21日至9月27日全球AI大模型总调用量为146万亿Token,环比增长13.18%。中国大模型周调用量连续二十二周超过美国,稳居全球首位。
不过,采访的多位业内人士表示,市场普遍把Hugging Face权重下载量和OpenRouter Token调用量混同为出海成绩,但两者的商业含金量天差地别。
西南证券传媒首席分析师苟宇睿表示,”Token调用量不等于请求次数、用户数量或收入。 OpenRouter统计的只是经由其API路由的流量,不包括模型厂商自有API、其他云市场、企业私有化部署,以及开发者下载权重后在本地运行的流量。“Token首先是工作负载指标,不是财务指标。”
“Hugging Face 的高下载量更像是 ‘品牌曝光量’,而不是 ‘真实收入’。它说明中国模型的全球关注度在快速提升,但从关注度到真金白银的 Token 付费,中间还有很长的转化链路。”PPIO AI产品专家谢晋这样表示。
谢晋也对模型出海和Token出海这两件事进行了区分。他认为,模型出海,本质是权重开源出海。它的核心价值是建立技术影响力和开发者认知,类似于“配方”公开出去。但模型权重本身不直接产生收入。Token出海,本质是推理服务出海,是海外用户通过API远程调用我们部署好的模型推理服务,按实际消耗的Token量付费。
“Token出海它卖的不是模型本身,而是 ‘模型即服务,包含算力、推理优化、稳定性保障、合规架构在内的一整套服务能力。这才是真正产生商业收入的路径。”谢晋表示。据了解,目前PPIO 的全球注册开发者已经超过 68 万,日均 Token 调用量达到 2.2 万亿。
“国产 AI 出海不会只受单一因素限制。技术、成本、合规和变现模式相互影响。”优刻得新兴事业部副总经理刘华认为,在技术层面,国产模型能力持续提升,已经具备较强的国际竞争力。未来的重点会聚焦多语言能力、长时间运行的稳定性、工具调用能力、推理速度以及复杂业务场景中的可控性。
Token出海不等同于模型出海,刘华继续补充。他认为,模型出海主要是模型权重、技术架构和开发生态的全球传播。海外开发者可以下载权重,自行部署、微调和推理。Token 出海则是将模型推理能力作为在线服务交付。
与模型出海相比,Token出海与实际收入的关系更直接,但也需要持续承担 GPU、带宽、平台运维、渠道分成和合规成本。
Token工厂崛起:谁在赚钱?
推理时代,一批“Token工厂”正在崛起。它们的共同逻辑是:不只是卖算力,而是把裸金属变成可交付、可计费的模型推理能力。谁在布局?从玩家类型来看,大致可分为以下几类。
公有云巨头是这条赛道天然的重量级玩家。火山引擎方舟、阿里云、百度智能云等凭借云生态和基础设施规模,在Token工厂赛道占据先发和规模优势。
据IDC数据,2025年中国公有云上大模型调用量达1944万亿Tokens,同比增长16倍。其中,火山引擎以49.5%的市场占比位居中国第一,排名第二、第三的阿里云和百度智能云分别拿下28%、10% 的市场份额,三家企业共同占到了接近九成的份额。
另外被资本密集押注的,还有独立MaaS推理服务商。比如硅基流动、Fireworks AI、无问芯穹、Together AI等公司,正试图用自研推理引擎和算力调度能力,在巨头林立的赛道中撕开一道口子。
最近,行业相关融资也是动作频频。
比如9月20日,AI基础设施企业硅基流动(SiliconFlow)宣布,已先后完成B+轮二期和C轮融资,2026年累计股权融资金额接近29亿元。最近也有消息,按营收规模排名第一的推理服务商Fireworks AI也在考虑新一轮融资,若推进融资,目标估值可达300亿美元,相比7月公布的上一轮估值几乎翻倍。
除了这些新贵,曾经手握GPU芯片资源的厂商,也大踏步进入Token行业,布局Token工厂成为行业热门。比如优刻得提出建设AI时代的“Token工厂”,已在全球28个地区部署36个可用区,覆盖东南亚、欧洲、北美、南美、非洲等市场。据公司透露,近期,优刻得巴基斯坦、哈萨克斯坦、乌兹别克斯坦节点上线,进一步入局中亚市场。
另外,润建股份在近日的投资者关系活动中称,公司推出“星算云池”产品,五象云谷智算中心将进一步向Token工厂发展。天亿马发布投资者关系活动记录表公告,公司天亿马1号国际词元工厂首期计划部署2000P算力,部分设备已经投产运营。
除此之外,三大运营商也在集体转向“Token经营”。比如,中国电信天翼云推出星辰TokenHub统一服务平台;中国移动MoMA多模型服务引擎升级至2.0,“联通星罗”算力调度平台率先实现2000km四地三芯跨域混训。
瓶颈与终局:短期看合规,中长期看变现
PPIO AI产品专家谢晋认为,Token 出海当前最大的卡点有两个。谢晋认为,目前合规是最硬的门槛。 欧盟 GDPR、中东数据本地化政策、各国数据跨境传输规定,都要求用户数据留在本地。一旦违规,最高罚款可达全球营收的 4%。”
除此之外,全球低延迟分发是另一大卡点。“AI 应用尤其是 C 端产品,对响应速度要求极高,端到端延迟要控制在 5 秒以内。但跨大洲调用 API,单程网络延迟就可能超过 200 毫秒,再加上模型推理时间,用户体验会明显下降。”对此,PPIO采用的是多区域本地化部署方案,同时提供租户级数据绝对隔离与PrivateLink 专线接入。
优刻得新兴事业部副总经理刘华则从中长期视角列出了五个值得关注的方向:模型API和统一推理平台、推理基础设施和成本优化、面向重点行业的AI服务、全球网络与本地化部署、安全与合规服务。在成本层面,中国在电力成本、基础设施建设和推理工程优化方面具有优势。但Token 服务还需要承担 GPU 折旧、网络带宽、海外节点运维、安全防护、渠道分成和客户服务等成本。
他特别强调,通用模型能力需要进一步与电商、游戏、金融、制造、安防等行业流程结合,“才能形成持续付费”。
但真正决定Token出海能走多远的,是变现模式本身。“当前Token出海的主要收入来源还是API调用,这是一种‘卖水电煤’的模式,单价持续下降,收入增长完全依赖调用量的指数级增长。如果调用量增长放缓,或者价格战加剧,整个商业模式的利润空间会被严重挤压。”谢晋表示。
科创板日报记者 黄心怡 2026-10-05 21:29
科创板日报记者 李佳怡 2026-10-05 11:55
收起; 上证创新药科创领先指数和上证科创板软件服务指数29日发布