←News detail

Semiconductor Industry ObservationUpdated Oct 26 12:25

CAICT Report: Domestic Daily Average Token Consumption in June 2026 Was About 500 Trillion

English text is being prepared.

AI summary

The Artificial Intelligence Research Institute of the China Academy of Information and Communications Technology (CAICT) released the "Large Model Token Service Performance Monitoring Report (2026)." In June 2026, domestic daily average token consumption was about 500 trillion, nearly 4 times that of December 2025. Based on monitoring data from January to August 2026, the report compares mainstream domestic and international MaaS platforms across dimensions such as call success rate, throughput speed, time to first token, stability, price, and context window. In August, the average tokens per second (TPS) output by domestic models was 78.23, while the average for typical foreign models was 112.82; the normalized average price for domestic models rose from 6.8 yuan in the second half of 2025 to 13.46 yuan so far this year, while the average normalized price for newly released typical foreign models was about 117.8 yuan.

Why read this

AI score 56

The report places the throughput, latency, and pricing of token services across platforms on the same scale, providing a comparable quantitative basis for model selection.

Topics

Tags

Body

我国一天要消耗500万亿词元来源:半导纵横发布时间:2026-10-26 11:03AI大模型生成海报是2025年12月的近4倍。

大模型再火,落到应用端,比的终究是算得有多快、回得有多快、花得有多少。这三件事,如今被统一压缩进一个词元(Token)的维度里。词元是大模型处理信息的最小计量单元,正在从模型内部的技术概念,延伸为服务调用、成本核算乃至商业计费的关键接口。中国信通院人工智能研究所最新发布的《大模型词元服务性能监测报告(2026年)》给出了一组让人咋舌的数字,2026年6月,国内词元日均消耗量约500万亿,是2025年12月的近4倍。大模型正从技术能不能跑通,冲向应用怎么用得起、用得好,词元服务成为从技术走向应用的关键点。

支撑这股洪流的,是越来越多的MaaS(模型即服务)平台厂商。它们通过公有云API的方式,把大模型词元服务端到千行百业的用户面前。开源模型几乎成了各平台标配,据信通院统计,DeepSeek、Qwen、GLM系列在22个国内外主流MaaS平台上的上线率均达100%,Kimi、MiniMax也分别达到95%和86%。模型选择前所未有地丰富,调用门槛一路走低。

驱动这轮爆发的,不只是对话应用。以智能体为代表的新形态应用,正把词元消耗推向指数级增长,单次任务消耗的词元可能是普通聊天的数十倍乃至上百倍。应用越深入,用户对词元服务的性能、稳定性与成本就越敏感,选型也从能用就行,升级为既要快又要稳还要省。

但一个尴尬的问题随之而来。词元服务铺天盖地,用户却很难判断哪家更靠谱。吞吐快不快、首词要等多久、服务稳不稳定、账单贵不贵,这些直接决定体验和成本的指标,此前一直缺乏统一的衡量标尺。选型靠猜、凭感觉、看宣传,成了许多开发者绕不开的坎。

为给用户一把看得见的尺子,中国信通院人工智能研究所依托人工智能大模型及软硬件评测工业和信息化部重点实验室,联合中国人工智能产业发展联盟(AIIA)模型服务工作组和高质量词元服务工作组,自2025年以来持续开展公有云大模型词元服务性能监测。这份报告基于2026年1月到8月的监测数据,围绕调用成功率、吞吐速度、首词时延、稳定性、价格、上下文窗口等维度,对国内外主流平台的词元服务进行了系统摸底。

监测结果勾勒出鲜明的产业走势。吞吐层面,8月份国内各模型平均每秒输出词元数(TPS)达到78.23个,相较2025年均值38.25个实现翻倍,但同期国外典型模型的TPS均值已达112.82个,整体仍优于国内。价格层面,经历过去两年价格战后,2026年国内外模型服务价格明显回升,国内归一化均价从2025年下半年的6.8元涨至今年以来的13.46元,涨幅接近1倍,而国外新发布典型模型的平均归一价格约为117.8元,依然高出国内一个量级。上下文能力也在持续扩容,被监测模型中上下文长度达到百万词元级别的占比47.8%,200K及以上的合计达95.7%,相比2025年底提高超过76个百分点。

价格回升的背后,是行业逻辑从拼价格转向拼能力。评测方指出,词元服务性能整体呈提升态势,头部平台在每秒吞吐量等关键指标上持续优化,已能满足多数通用场景要求。与此同时,原厂大模型整体时延有所增长,与模型参数量增大不无关系。服务稳定指数方面,1至4月国内词元服务稳定性保持在80分以上的较好水平,5月起出现波动,主要源于部分热门模型新版本发布后,不同时段的吞吐与时延变化较为剧烈。

对正在选型的用户而言,这份报告的价值,在于第一次把各家平台的底牌摊开在同一把标尺下比较。算得快、回得稳、花得值,不再是一句模糊的营销话术,而是可以被量化、被复现的真实指标。报告也提醒,词元服务性能受模型参数量、平台调度能力、上下文窗口等因素综合影响,用户应结合自身场景取舍,高频调用场景更看重吞吐与稳定,交互型应用更看重首词时延。随着智能体、多模态应用把词元消耗推向更高水位,词元服务的性能之争将愈发激烈,这把尺子,或许正成为产业下一轮竞争的新起点。

本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。 评论暂无用户评论最新资讯更多 相关推荐

三星自测Exynos 2700性能比高通旗舰芯片高出约20%2026-10-26 11:48

大量GPU到货却无法上电!亚马逊暴露出AI算力扩张的电力瓶颈2026-10-26 11:15

AMD Ryzen 5 5500F,能否撼动百元级CPU市场?2026-10-26 11:13

Source

Semiconductor Industry Observation