DeepSeek did the math: $38 per GPU-hour — can the inference business make money?

10月20日，DeepSeek开源推理框架DeepInfer时，公布了一个十分吸引眼球的数字：单个集群每天可以处理155万亿Token，如果按照DeepSeek API的谷时价格计算，平均每GPU小时对应38美元的收入。

这是根据Token处理量和公开API价格折算出的理论计费收入，实际情况要复杂得多。但这个数字依然太有吸引力：如果粗暴按照线性外推，按每天24小时、全年365天计算，一张GPU的年化计费产值超过33万美元。

过去几年，AI行业一直在讨论训练一个前沿模型需要多少钱，英伟达的GPU有多贵，云厂商又投入了多少资金建设数据中心。但这些昂贵的计算设备买回来之后，究竟能够生产多少可以卖钱的智能？抛开眼花缭乱的“金融手段”，企业真能赚到的，又有多少钱？

DeepSeek的38美元，提供了一个难得的观察窗口。在资本市场再次对AI巨额投入的回报提出质疑的时候，产业一线的反馈却很乐观。“业内”和“业外”，产生了巨大的分歧。

一位经营Token中转业务的创业者告诉腾讯科技，最近几个月，中小企业的AI需求正在“全面暴涨”，他能从客户的实际使用情况中感受到这一变化。今年七八月还只有少数公司在尝试的事情，如今同行已经普遍在做。一些原本有数据安全顾虑的企业也开始私有化部署模型。他也在认真考虑“扩产”。

另外一位AI应用领域的创业者态度也十分鲜明：“英伟达的股票，我还是会继续买。”他接触的B端企业正在加快引入Agent，从日常运营到客户服务，越来越多业务开始AI化。

但他也判断，中美AI市场短期内可能经历一个“小低谷”。此前模型突破、生产率提升和AI替代工作的消息不断推高市场预期，当资本市场开始要求AI在真金白银上交出成绩时，企业应用的实际成果可能还没有跟上，市场热情也会随之回落。

DeepSeek的计算提供了另一个值得关注的信号，即使按照谷时价格，高度优化的推理系统仍然能够实现相当可观的单位GPU计费产值。

那么，随着推理效率不断提高，如果有足够多的用户持续消耗Token，AI是否已经可以成为一门赚钱的生意？答案可能比想象中乐观，但也更复杂。

一张GPU，每小时38美元

DeepSeek在9月10日发布的V4.1 Flash中，已经披露了不少推理效率优化的技术细节。

按照官方技术报告，这款模型拥有5520亿总参数，采用混合专家（MoE）架构和新的Causal Encoder–Decoder设计，处理输入时约激活80亿参数，生成输出时约激活160亿参数。

模型针对长上下文和Agent场景优化了缓存结构。按照论文披露，全局KV Cache占用降低到上一代的约四分之一，长期保存的缓存占用减少到约八分之一。每Token的全局KV Cache约为890字节，支持最高100万Token上下文。

这些优化直接影响长上下文推理的显存占用、数据传输和服务成本。

10月20日开源的DeepInfer，进一步公开了DeepSeek如何将这些技术整合为大规模在线推理服务。

它集成了此前陆续开源的FlashMLA、DeepGEMM、DeepEP、TileKernels等组件，同时引入专家并行、推测解码、异步调度等机制。

图：DeepSeek在线推理系统示意图

DeepSeek在官方部署问答中重点介绍了三项工程原则：适配不同厂商的加速硬件，将Prefill与Decode分开部署，以及尽可能长期保留KV Cache，减少重复计算。

在生产环境中，Prefill可以部署在普通8卡服务器上，而Decode采用64至128卡超节点，通过大规模专家并行提高吞吐量。DeepSeek还提出将KV Cache保留72小时以上，以适应Agent反复调用相同上下文的需求。

这些优化的核心目标，是在满足延迟要求的前提下，让同样数量的GPU服务更多请求。

不过，这次开源并不意味着DeepSeek已经公开完整生产环境中的所有组件。

官方README文档指出，KV Cache系统、视觉编码与Prefill/Decode分离服务编排、跨数据并行副本的负载均衡等，仍需要外部补齐。部分组件与DeepSeek内部基础设施深度耦合，因此尚未完整开源。

DeepInfer目前也主要面向DeepSeek-V4.1 Flash。其他模型如果在MoE专家组织、注意力结构、数值精度或硬件配置上存在较大差异，很难直接照搬。

因此，38美元并不代表任何企业下载DeepInfer、部署一批GPU，就能获得同样的收入表现。DeepSeek也没有完整公开计算这项指标所需的集群硬件构成、成本账单、付费流量比例及收入确认方式。

但它至少说明，在特定模型与硬件条件下，推理工程优化能够显著提高计算设备的潜在计费产值。

低价出售Token，与一张GPU产生较高的计费收入，并不矛盾。

关键在于，一小时内究竟能够处理多少有效Token，以及有多少Token真正可以向客户收费。

如果推理可以赚钱，为什么模型公司还在亏损？

如果推理效率已经可以做到如此程度，为什么一些大模型公司仍然需要不断融资，甚至持续亏损？

一个重要原因是，训练前沿模型和出售推理服务，本来就是两笔不同的账。

2026年斯坦福大学《AI Index》引用研究机构Epoch AI的数据，估算了OpenAI和Anthropic在模型研发与推理服务方面的计算支出。

2025年，OpenAI计算支出约163亿美元，其中研发相关计算支出83亿美元，推理支出80亿美元，两者几乎各占一半。

2024年，OpenAI的相应支出分别为40亿美元和18亿美元。也就是说，一年之间，推理计算支出增长了约3.4倍，而研发计算支出增长约一倍。

Anthropic在2025年的计算支出估计为68亿美元，其中研发相关支出41亿美元，推理支出27亿美元。研发仍然占据较大比例。

这些数字说明，前沿模型公司的算力投入结构正在变化。随着商业用户增加，推理已成为越来越重要的成本来源，但研发开支并没有因为推理业务扩张而消失。

一家追逐SOTA的模型公司，需要同时承担持续训练和大规模推理服务的成本。前者包括预训练、后训练、强化学习、数据处理、模型评测及大量实验，后者则需要维持在线服务的算力、容量和稳定性。

Epoch AI特别指出，研发计算支出并不全部用于最后一次正式训练。大量资源实际上消耗在实验、研究和模型迭代过程中。因此，某个模型公开的单次训练成本，不能简单视为一家前沿模型公司的全部研发成本。

图源：Stanford HAI / Epoch AI，2026年

商业化带来的另一层压力，是用户越多，推理成本也可能越高。

《The Information》今年2月报道，OpenAI在2025年的毛利率约为33%，低于2024年的40%，也低于此前46%的预测。Anthropic对2025年毛利率的预期约为40%，虽然较2024年的负毛利状态改善明显，仍比其早先目标低10个百分点。

报道指出，两家公司毛利率低于预期的重要原因之一，是实际推理成本高于原先估计。

这与DeepSeek的38美元看起来形成了矛盾：一边是持续改善的推理效率，另一边却是被推理成本侵蚀的毛利率。

实际上，它们反映的是同一门生意的两个方面。

单位GPU能够生产多少Token，是供给效率；公司需要投入多少GPU，才能满足不同客户的延迟、上下文长度、稳定性和峰值需求，则决定实际经营成本。

即使单位Token成本下降，重度用户增加、任务执行时间延长、模型调用次数上升，也可能使总推理支出迅速增长。尤其在固定月费的产品中，客户支付的价格未必随着Token消耗同步增加。想想每天挖空心思发“重置卡”的Tibo。

图：OpenAI产品与平台负责人Tibo（Thibault Sottiaux）于10月11日在X平台连续发布有关Reset的动态，其中“Day 6 / Reset”获得约290万次浏览。

一家模型公司的推理服务可以拥有正毛利，整个公司却仍然因为持续研发、基础设施和经营投入而亏损。

反过来，如果不承担前沿模型训练，专门经营推理服务，生意的成本结构就完全不同。

不训练模型，只卖Token能不能赚钱？

它们不以训练最强的基础模型为核心业务，而是部署DeepSeek、Qwen、Llama等开放权重模型，通过多芯片集群、推理框架、模型优化和调度系统，向开发者与企业销售API调用、专属推理实例或私有化部署服务。

对于这些公司来说，模型本身未必需要从头研发，成本主要来自GPU采购或租赁、机房与电力、网络和存储、推理系统研发、模型适配，以及销售、运维和客户支持。

其中最关键的三个变量，是单位GPU产值、实际付费利用率和综合运营成本。

假设一家推理服务商每GPU小时的完全负担成本为10美元，而它能够以DeepSeek披露的38美元作为满负载计费产值的参考，那么理论上只要实现约26.3%的有效计费产出，便可以覆盖这10美元成本。

如果有效计费产出达到50%，收入相当于每小时19美元，扣除10美元后还剩9美元。

当然，这只是用于说明商业敏感性的假设。实际系统的吞吐量、并发和延迟具有复杂关系，低负载下的收入不一定与满负载表现呈线性变化。10美元也不是DeepSeek披露的真实成本，更不能将计算结果当作其实际毛利率。

但这种测算说明，推理系统效率足够高时，商业回报可能具有较大的空间。问题是，GPU本身并不便宜，购买或者租赁GPU，同样不意味着立即拥有稳定收入。

CoreWeave提供了一个可以对照的真实案例。

2026年第二季度，CoreWeave收入25.75亿美元，同比增长约112%，调整后EBITDA达到15.10亿美元，利润率为59%。

但在美国通用会计准则下，公司当季仍净亏损6.26亿美元。问题出在算力生意高昂的资产和资金成本上。CoreWeave需要投入大量资金采购GPU及配套设备，相关资产随着使用逐年折旧；同时，公司依靠债务融资支持扩张，还要承担高额利息。2026年第二季度，其折旧及摊销费用达到13.93亿美元，净利息支出高达6.4亿美元。

折旧反映的是已经购入的算力设备在使用期间逐步计入的成本，利息是为这些投资融资所付出的代价。即使GPU租赁带来了可观收入，这两项负担仍可能大幅压缩利润。

CoreWeave的财报也说明，算力利用率高、收入增长快，并不意味着经营算力就一定赚钱。

更复杂的是，推理算力并不是一个完全同质化的市场。

DeepSeek能够通过深度优化获得较高单位GPU产值，不意味着普通推理服务商可以用相同的硬件、相同的价格获得同样表现。

因此，推理服务可能是一门具有可观毛利空间的生意，但它并不会自动成为高利润生意。工程能力影响成本下限，客户需求和定价权决定收入上限，而资本成本影响最终能留下多少利润。

此外，推理市场还面临持续降价的压力。

DeepSeek降低单位Token成本之后，也在通过更低的API价格将一部分效率收益传递给用户。其他公司一旦采用更高效的算法和系统，也可能参与价格竞争。

推理效率提升创造的收益，最终未必全部留给卖Token的公司。

从英伟达、台积电、SK海力士，到数据中心和云服务商，AI基础设施投资已经为部分上游企业带来了可观的收入和利润。

但对于经营推理服务的企业来说，设备买回来之后，仍然需要不断寻找客户和任务，才能持续创造收入。

目前，Coding是商业化最清晰的AI应用市场之一，但即使在这个付费意愿较强的领域，盈利也并不容易。

《The Information》披露，Cursor在截至2026年1月的季度中，毛利率一度为-23%；如果将免费用户的推理费用全部计入销售成本，毛利率约为-31%。虽然此后毛利率已经转正，但高昂的模型调用成本，仍是AI应用需要面对的问题。

消费应用的情况更加分化。10月12日，曾经的明星AI陪伴公司Character.AI申请破产保护。根据破产文件及公开报道，公司当时仍拥有约1200万月活用户，2026年8月收入达到530万美元，但每月经营亏损仍有800万至900万美元。

仅2026年前八个月，Character.AI就花费了5610万美元购买算力，占运营费用约45%。即使转向更便宜的GPU和开放权重模型，并削减人员开支，也未能实现盈利。法律诉讼和监管压力同样加剧了公司的困境。

但是，AI原生应用并非无法盈利。Midjourney创始人David Holz在今年3月接受《The Information》采访时表示，公司2023年收入已显著超过2亿美元，此后继续增长，并且保持盈利。

但它也不是所有AI应用的普遍样本。图像生成拥有相对明确的使用场景和付费价值，而全天候运行的个人Agent，可能需要持续调用模型、使用工具和重新规划任务，成本结构更加复杂。

从整体市场看，需求实际上正在快速增长。

Menlo Ventures在2026年9月发布的《State of Consumer AI》报告估计，全球消费者AI支出已达到400亿美元，是2025年120亿美元的三倍多。

但值得注意的是，美国成年人AI使用率只从2025年的61%上升到64%。消费者AI支出的高速增长，主要来自已有用户使用得更深入，付费更多。新增用户有限。

图：Menlo Ventures消费AI支出图

Menlo Ventures合伙人Amy Wu Martin指出，今年令人意外的变化，是消费者AI市场在没有迎来大量新用户的情况下实现了三倍增长。推动增长的，是重度用户将AI带入更多生活场景，并开始允许AI代表自己采取行动。

现在，更重要的是一个用户每天有多少任务交给AI，以及每项任务能够创造多少实际价值。这也是Personal Agent（PA）重新成为大厂和创业公司共同关注方向的原因之一。

最近推出的Duet、Dots、Muse、Grokbot以及一批独立创业公司的产品，虽然在入口、记忆、权限体系和执行方式上存在不同，但都在尝试扩大AI能够承接的个人任务范围。

如果Agent能够持续处理邮件、安排工作、操作软件、完成采购、协调不同服务，AI调用便可能从用户主动发起的短时会话，转向围绕实际任务展开的长流程执行。

Agent之间的协作，以及越来越多由机器直接发起的工具调用和服务请求，也可能进一步扩大推理消费市场。

不过，更多Token消耗本身并不代表商业成功。

一家PA公司如果每月向用户收取20美元，却需要花费30美元购买模型调用和其他服务，那么它可能帮助上游模型商扩大收入，自己却仍然无法盈利。

同样，模型越来越高效，也可能让过去需要大量Token的任务变得便宜。即使Agent数量大幅增长，市场总收入也不一定以相同比例增长。

模型公司希望扩大推理消费市场，应用公司希望以更低的推理成本完成任务，用户关心实际完成的工作值多少钱。

DeepSeek的38美元，展示了在特定条件下，高效率生产Token所具有的潜在收入能力。

过去几年，资本市场为AI投入了巨额资金，芯片、存储和算力基础设施率先从中受益。随着推理系统继续进步，模型公司和应用公司一直在面对另外一道更复杂的商业命题：如果越来越多企业都能以更低的成本生产智能，谁能找到足够多愿意购买智能的客户？

还有更难的问题：如果AI是一个新的时代，token承载的“智能”，要创造什么增量？AI Native的核心逻辑，还在一片混沌中等待。

本文来源：腾讯科技风险提示及免责条款

市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。