先了解这件事
2026年10月20日,DeepSeek开源内部推理框架DeepInfer。据Yuchen Jin引用DeepSeek披露的数据,单个集群每天处理155万亿token,每GPU小时产生38美元收入(非高峰定价),DeepInfer同时支持NVIDIA Blackwell和华为昇腾;36氪后续报道称其配套开源deepseek-recipe,支持英伟达SM100 GPU与华为昇腾Ascend 950 NPU。10月21日,swyx引用Latent.Space数据称单集群日处理155T tokens、输入缓存命中率96%,认为每块已售GPU生命周期价值上涨约30%。10月24日,Nathan Lambert称DeepSeek单集群日处理150T tokens,超过OpenRouter、Fireworks、Together和BaseTen开源模型推理量之和,并指出实际集群数量不明;同日LMSYS公布同硬件基准对比,称SGLang在DeepInfer自有基准上达到或超过DeepInfer,prefill吞吐最高1.04x,64x GB300上decode步长缩短1.1%–7.4%。
AI 根据公开报道生成
最新进展 · 正式报道
DeepSeek 开源 DeepInfer 后,vLLM 与 SGLang 更新推理性能事件进展
4 个已确认进展
- 来源:Nathan Lambert
- 来源:LMSYS Blog
- 来源:Swyx
- 来源:Yuchen Jin
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月26日
36氪 · AI
DeepSeek 开源 DeepInfer 后,vLLM 与 SGLang 更新推理性能
DeepSeek 开源推理引擎 DeepInfer 不到一周,vLLM 和 SGLang 先后发布优化版本,在各自测试配置下性能接近甚至部分超过 DeepInfer。vLLM 在 131K 上下文、每轮 3 个草稿 token 的解码配置下,用 GB200 测得批大小 8 到 256 时吞吐与 DeepInfer 差距仅 6%,新增 token 的预填充吞吐提升 35.6%~43.9%;在 GB300 NVL72 机架上,SemiAnalysis AgentX 测试每卡吞吐达 95.4 万 tokens/s,是此前单节点结果的 7.9 倍。SGLang 在 4 张 B300、4 张 GB300 上测试预填充,最高吞吐比 DeepInfer 高约 4%,64 张 GB300 解码测试中每卡 256 请求时单步耗时 28.88 毫秒,比 DeepInfer 的 31.19 毫秒缩短约 7.4%。
新浪科技
DeepSeek V4.1-Flash-1017 单周调用量登顶 OpenRouter,环比增 801%
OpenRouter 10 月 19 日至 25 日周榜显示,DeepSeek 于 10 月 17 日更新的 V4.1-Flash-1017 以 33.6 万亿 Token 单周调用量登顶,环比增长 801%。该版本延续 552B 总参数、输入激活 8B、输出激活 16B 的非对称 MoE 架构,重点优化代码、自动化 Agent 与视觉任务;旧版 V4.1 Flash 周调用量 18 万亿 Token,环比下滑 45%。上周全球总调用量 188 万亿 Token,环比增长 14.63%,国产模型以 93.54 万亿 Token 连续二十六周高于美国模型。
雷锋网
DeepSeek 开源推理框架 DeepInfer,AI 编写的 ForgeKernel 同周登顶算子评测榜
DeepSeek 近日全面开源推理框架 DeepInfer,在模型权重和 FlashMLA、DeepGEMM 等算子库之后进一步开放模型运行链路。截至 10 月 22 日,完全由 AI 编写、无人工逐行调优的 ForgeKernel 同时登顶英伟达 SOL-ExecBench FlashInfer-Bench 合集第一和昇腾 CANNBench A3 硬件榜第一,基准加速比 1.835×,领先第二名 25%。在 DeepSeek v4.1 Flash 的算子上,ForgeKernel 从 0 用 AI 迭代的方式相比 DeepSeek 开源的英伟达版本实现性能超越。
36氪 · AI
全球开源大战下,多少AI会打回原形?
文章以DeepSeek开源内部推理框架DeepInfer为切入点,讨论全球大模型厂商集体转向开源的现象。文中称DeepInfer配套开源deepseek-recipe,支持英伟达SM100 GPU与华为昇腾Ascend 950 NPU,并援引技术文档披露单集群单日约155万亿Token请求、峰值吞吐接近每秒17.94亿Token。作者借微软拥抱开源和安卓分层开放的先例,分析开源是扩大生态的竞争杠杆,同时指出商业化闭环、合规与社区治理是开源玩家面临的现实挑战。
10月25日
Recode China AI一手
中国 AI 周报:DeepSeek 约 150 亿美元融资、Kimi K3.1 Pro 发布与就业政策调整
China AI Weekly Digest 汇总 2026 年 10 月 16 日至 23 日跟踪的 306 条中国 AI 新闻。DeepSeek 据 Reuters 报道最新一轮融资约达 1000 亿元人民币,投前估值 5000 亿元人民币,腾讯与宁德时代为主要投资方;月之暗面发布百万 token 上下文窗口的 Kimi K3.1 Pro,并称 Highspeed 版本快两到三倍。国务院办公厅发布 AI 就业政策指引,提出 18 项任务,涵盖新职业培育、AI 培训与就业风险监测。
第一财经
AI周报:Meta旗下Muse下载量突破1000万;长鑫与美光产生技术分歧
Meta旗下AI助手Muse自9月推出以来累计下载量达1090万次,其中1020万次来自美国,成为上市后40天内美国下载量破1000万的移动应用之一。DeepSeek开源推理框架DeepInfer,并披露单一集群服务吞吐为155万亿tokens/天、收入每卡每小时38美元。Anthropic推出基于Claude Opus 5.5的个人智能体Claude Duet,面向美国Claude Pro和Max订阅用户开放研究预览候补申请。
钛媒体 · AGI
单季净赚212亿却两天跌近15%:AI行情到底在杀什么?
宁德时代三季度归母净利润212.46亿元、同比增长14.54%,低于机构预测下限,10月21日A股收跌12.03%,两个交易日累计跌近15%,市值蒸发约1400亿元。这轮调整压的是估值而非已兑现业绩:创业板指PE-TTM从6月约54倍回落至约32倍,科创50从约264倍降至110倍上方。同期股票型ETF连续8个交易日净流入,截至10月14日累计947.53亿元。
10月24日
华尔街见闻
DeepSeek算了一笔账:单GPU每小时38美元,推理生意能否赚钱
DeepSeek在10月20日开源推理框架DeepInfer时公布,单个集群每天可处理155万亿Token,按DeepSeek API谷时价格折算,平均每GPU小时对应38美元收入。文章指出这是理论计费收入,DeepSeek并未公开集群硬件构成、成本账单和付费流量比例,且DeepInfer目前主要面向DeepSeek-V4.1 Flash。文章进一步对比OpenAI、Anthropic的研发与推理支出结构,以及CoreWeave、Cursor、Character.AI等案例,说明单位GPU产值高不等于推理服务必然盈利。
LMSYS Blog一手
不止 DeepInfer:SGLang 在 DeepSeek-V4.1-Flash 推理上交付了什么
SGLang 在 DeepInfer 自有基准上达到或超过 DeepInfer:4x GB300 与 4x B300 上 prefill 吞吐最高 1.04x,64x GB300 上 decode 步长缩短 1.1%–7.4%。SGLang 已集成 DeepSeek 的 Mega 系列 kernel、DSpark 投机解码、SWA bounded replay 和两种 Engram 放置方式,并补齐 DeepInfer 未包含的 KV cache、prefill/decode 分离与副本间负载均衡。SGLang 支持 NVIDIA GB300、B300、B200、H200 和 AMD MI355X。
Nathan Lambert
Nathan Lambert:DeepSeek 单集群日处理 150T tokens,超过多家开源推理平台总和
Nathan Lambert 称 DeepSeek 在单个集群上每天处理 150T tokens,超过 OpenRouter、Fireworks、Together 和 BaseTen 上开源模型推理量的总和。他同时贴出了自己对这几家公司推理量报告的重构对比图,并提到这一数字只对应单个集群,DeepSeek 实际拥有多少个集群尚不清楚。
10月21日
Swyx
swyx 评 DeepSeek GPU 营收数据:单卡生命周期价值约涨 30%
swyx 引用 Latent.Space 披露的 DeepSeek 生产数据,称单个集群每天处理 155T tokens、输入缓存命中率 96%,按非高峰价格计算每 GPU 小时收入 38 美元。他认为每块已售 GPU 的生命周期价值因此上涨约 30%,对应约 6000 亿美元的市值空间,并调侃买得越多赚得越多。
Yuchen Jin精选
DeepSeek 单集群日处理 155 万亿 token,每 GPU 小时收入 38 美元
Yuchen Jin 引用 DeepSeek 披露的数据称,单个集群目前每天处理 155 万亿 token,每 GPU 小时产生 38 美元收入(非高峰定价)。他指出 DeepSeek 不仅开源了推理引擎,还公开了收入数字,但未说明所用 GPU 型号,DeepInfer 同时支持 NVIDIA Blackwell 和华为昇腾。按 B300 每 GPU 小时 7 美元的租用价估算,毛利率约为 82%。
本事件热度走势
- 当前
- 5
- 区间峰值
- 15 10月26日 23:00
- 近 24 小时变化
- —
移动指针或点击图表可查看每小时热度;键盘可用左右方向键切换。