DeepSeek 开源推理框架 DeepInfer 与分词组件 deepseek-recipe

cnBeta.COM.TW_中文业界资讯站 首页影视音乐游戏动漫趣闻科学软件主题硬件AppleGoogleiPhone科学探索人物手机游戏视点·观察阿里云微软通信技术Android软件和应用SONY 索尼the United States美国Apple iPadWindows PhoneIntel英特尔腾讯HTC安全Mozilla FireFox小米科技百度通信运营商媒体播放器 / 视频网站BlackBerry 黑莓网络应用 / Web AppsGoogle ChromeMicrosoft XBOX硬件 - 上网本 / 平板电脑 / 超极本电子商务 - B2C / B2BLenovo 联想LGYahoo! 雅虎AMDSNS 社交网络诺基亚Windows 7Huawei 华为中国移动中国联通中国电信更多...排行

昨天，DeepSeek 直接把自家压箱底的“印钞机”技术给开源了。他们甩出一篇名为《DeepSeek V4.1 Flash 大规模推理部署实践》的技术博客，顺手把支撑自家线上百亿级调用的云服务推理框架“DeepInfer”，连带生产级分词组件“deepseek-recipe”，挂上 Apache 2.0 协议彻底开源。

甚至在博客中表示，未来 DeepSeek 新模型的推理代码和后续性能优化，也全都会在 DeepInfer 里持续白送给全世界。

敞亮这一块属于是冇得顶。

我们可以先具体算一算，DeepSeek 这次白送给全人类的这套代码到底有多值钱。基于这套刚开源的 DeepInfer 框架，DeepSeek 目前单一集群的服务吞吐已经干到了每天 155 万亿 Tokens。

哪怕完全按照最便宜的谷价来计算，这套系统的整体收入也高达每张卡每小时 38 美金，折合人民币差不多 253 块钱。

换句话说，一张卡挂在机房里跑一小时爆出的金币，比普通打工人的时薪还要高，而且卡不喝冰美式、不休带薪年假，24 小时在机房里替 DeepSeek 疯狂印钞。

真·物理意义上的印钞机。

为什么我建议第三方行业基建厂商必须给 DeepSeek 的真开源磕一个，因为人家不光授之以鱼，还授之以渔。

以前行业里所谓的开源模型，最多也就是扔给你模型权重文件，至于怎么在生产环境里跑出高吞吐、怎么把延迟压下来，全藏在闭源黑盒子里当商业机密。

结果二三线的小算力商或者企业买了一堆卡自己部署，算力利用率低得离谱，卖 Token 的钱连交机房电费都不够，还得偷偷给 token 掺水，要么偷偷用便宜模型，要么悄摸限制了规格。

这次 DeepSeek Harness 负责人崔添翼在 X上把话说得极其实在，开源 DeepInfer 和 deepseek-recipe，就是希望全世界的公司和机构都能部署 DeepSeek 模型，并且靠这玩意实打实地赚到钱。

赛博活菩萨了属于是。

网友 Zephyr 算了一笔账，说今天纯纯是又一个 DeepSeek 时刻，因为现在地球上随便一家二三线推理服务商，拿这套现成的模型和配方去跑，都能在自家算力上干出 90% 以上的惊人毛利。

连开源推理老大哥 vLLM 官方账号都连夜跑出来发文致谢，感谢 DeepSeek 把最初基于 vLLM 打造的 DeepInfer 用最宽松的 Apache 2.0 协议回馈给开源社区。

DeepSeek 研究员 Deli Chen 更是在 X 上燃起来了，放话这就是开源对决闭源、光明对决黑暗的人类命运决战，不管对面想打多久，我们奉陪到底，直到完全胜利。

此外，如果你去翻翻 DeepSeek 那篇技术博客就会发现，他们的底气全来自把每一滴显存榨出汁的工程强迫症。

从设计第一天起，这套系统就具备广泛的硬件兼容性，用常见的 8 卡机器做 Prefill，用 64 到 128 卡的超节点做 Decode。

最让人印象深刻的是文档里关于视觉编码器 Vision Encoder 的部署建议，人家工程师原话写着“一般单卡部署就可以，建议用可用范围内最便宜的卡部署”。

不是哥们，同行都在忙着跟投资人说自己非顶级旗舰卡不用，DeepSeek 在官方文档里手把手教你拿机房角落里最便宜的卡凑合过日子，勤俭持家得像我广东房东。

抠门到极致就是艺术。

为了让你用最少的电费发最多的 Token，DeepSeek 还把一些独门秘籍全抖搂出来了。

比如现在 Agent 和长文本对话越来越火，每次重复计算 Prefill 都在烧真金白银，DeepSeek 直接搞了套 100 PiB 容量的 3FS 分布式存储集群，把 Agent 流量的 KVCache 保留 72 小时以上，Chatbot 流量更是存够 7 天。

光存得久还不够，他们通过 RDMA 网卡和 GDR 技术把聚合读取带宽干到了惊人的 10 TiB 每秒，从硬盘换入显存时跟前向计算重叠，连 GPU 的 SM 计算单元都不占。

甚至在 V4 到 V4.1 的迭代里，工程师发现把分钟级寿命的滑动窗口缓存 SWA KVCache 写进硬盘太占地方，存储性价比极低，干脆搞出 SWA Bounded Replay 技术，只重算最后 128 个 token，最终把总 Prefill 计算量砍掉一半。

具体到 Prefill 的性能测试，随着每批处理的 Token 数量增加，未命中缓存的输入吞吐逐渐提高，最终趋于平缓，继续扩大批次主要增加了单步处理耗时。

纯纯手艺人，Bro。

再看这次同步开源的 Rust 组件 deepseek-recipe，解决的全是开发者天天在生产环境里头疼的脏活累活。

它把 OpenAI 的 Chat Completions、Responses 和 Anthropic 的 Messages 三家 API 协议统一转成同一种格式，还顺手用分段并行编码解决了长文本分词卡顿，外加从底层把 Special Token 注入攻击给堵死了。

到了底层调度，通过 GPU 和 CPU 的异步流水线重叠，硬生生做到了 GPU 全程无空闲，连投机解码 DSpark 都用上了变长验证，在线上生生又抠出来 6% 的吞吐提升。

到了生成回答的 Decode 阶段，性能曲线也呈现出一个直观的取舍，同时处理更多请求，可以提高每张 GPU 的总输出吞吐，但分到每个用户的生成速度也会随之下降。

其实早在 2024 年 DeepSeek V2 降价时梁文锋就讲过，这套商业逻辑就是核算成本后定价，不贴钱，但也绝不赚暴利，因为 AI 应该是普惠的、人人用得起的东西。

生意可以不做，规矩先立住，才能不烧心。

而当你看懂了 DeepSeek 是怎么靠极致的 Infra 能力把 Token 变成白菜价的，再扭头看看大洋彼岸那群整天把全人类福祉挂在嘴边的闭源巨头，你就会发现 OpenAI 和 Anthropic 有多虚伪。

一个名字里顶着 Open，全面转向闭源商业化，靠高价 API 和每月 500 美金会员收割全球开发者的买卖，早就活成了彻头彻尾的 CloseAI。

另一个更绝，Anthropic 从创立第一天起就立了个安全牌坊，连昨天刚被华尔街日报扒出来的 S-1 招股书草稿里，都还在演这套戏码。

他们在招股书里花了许多篇幅写科幻恐怖故事叠甲，一本正经地警告投资者，说自家的 AI 模型可能会产生自我保护意识避免被关机，甚至会生成类似“勒索人类”的回复来强迫人类让它继续运行。

那问题来了，既然 Anthropic 嘴上把 AI 讲得这么危险，为什么还要拼命拒绝开源、坚持把模型锁在自己手里呢。

招股书显示，Anthropic 在 2026 年上半年净亏损高达 807 亿美金，虽然里头有 720 亿是可转债公允价值变动的账面财技，但它半年光买算力和基建就实打实烧掉了将近 90 亿美金，比 2025 年全年烧的还要多。

说白了，硅谷闭源巨头们之所以拼命妖魔化开源，根本原因只有一个，就是 DeepSeek 这种连引擎带配方一起送的真开源，会彻底砸碎他们所兜售的 AI 叙事。

写过《DeepSeek 的十万亿美元棋局》的博主 @bookwormengr 刚刚算了一笔极其扎心的账。

按照这套 DeepInfer 在英伟达 GB200 NVL72 大超节点上的极限压榨能力，1GW 的算力一年就能跑出 1000 亿到 1490 亿美金的 Token 收入，比之前行业机构预测的数字高出近十倍。

如果按 SemiAnalysis 预测的 2027 年全球上线 50GW 算力，哪怕分一半也就是 25GW 拿来做推理，按 DeepSeek 的白菜价都得全人类每年消费 2.5 万亿美金才能用完。

要是换算成 OpenAI 和 Anthropic 贵出四倍以上的黑心 Token 价格，全人类得在 2027 年底贡献整整 10 万亿美金的 ARR，才能填满这 25GW 算力的胃口。

海外闭源巨头之所以要靠堆卡、烧钱、签几千亿合同来维持叙事，无非就两个原因，要么是自家的工程优化实在太拉胯，要么就是故意拿低效当幌子，以及筑起高昂的算力门槛把别人挡在门外。

而 DeepSeek 用不断开源的模型和一整套开源推理工程戳破了这个 AI 泡沫。正如有网友调侃道，有了 DeepSeek 开源的这套技术，OpenAI 和 Claude 估计又要偷偷摸摸进化了。

我的建议是，三人行，必有我师焉。干脆 Anthropic 也别矜持了，赶紧连夜去 GitHub 上把 DeepSeek 的 DeepInfer 给 git clone 下来部署上，万一偷师了一些缓存调度和优化思路，还能省下不少算力账单呢。（手动狗头）

-

对文章打分

DeepSeek把自家“印钞机”开源了 这才是真的OpenAI

Anthropic招股书透露大量信息：营收暴增却巨亏 算力成掣肘

1 小时前

Claude狂算64小时首次设计出抗蝎毒蛋白 已过实测

消息称Anthropic今年上半年净亏损超800亿美元

1 小时前

Anthropic提交AI安全法案草案 提议高风险模型可被法院叫停

Claude想让中国人全被封号：天才AI的访问头脑战 阅读 (1016) 评论 (1)

2

80、90后经历过的那个盗版年代 好像又要回来了 阅读 (850) 评论 (0)

3

几十元笔记本清灰变上千元维修：大学生网购“官方售后”遭遇连环套 阅读 (721) 评论 (4)

4红米手机竟然刷上了iOS Redmi Note 12成功启动iOS 16项目已开源

5DeepSeek V4.1 Flash成本低到发指：1美元13亿Token

6斩获M站99分！“女版乔布斯”世纪骗子纪录片口碑封神

7来自菲律宾的“女菩萨” 想用OnlyFans赚钱盖学校

8新版DeepSeek，离顶级AI还差多远？

9索尼更新高端Walkman产品线：三款新旗舰亮相 顶级型号售价高达5899美元

10苹果79美元 iPhone Duo保护壳采用粘胶固定设计引发关注

1

Windows 11 26H2 ISO镜像已发布 微软同时更新安装介质并延续小型启用包机制 阅读 (1994) 评论 (1)

2

中国女主播坐上“付费旋转椅” 观众花50元可转一圈 奇特直播模式引发全球热议 阅读 (1328) 评论 (2)

3

Google研究员称Windows NT内核设计至今仍让Linux相形见绌 阅读 (1317) 评论 (3)

4转转“神秘眼镜女”称被造黄谣 已报警

5“车子我肯定不要了”尊界V800刹车踏板被踩断 车主急忙退订 专家直指严重缺陷

6王自如劝退iPhone 18 Pro：一场关于“换机价值”的公开讨论

7Anthropic已限制华为AI芯片使用Claude Opus 5.5开发前沿模型

8懂车帝再发布测试视频：智界V9等多款车型六次制动未出现刹车踏板支架断裂

9《街霸》电影春丽演员回应粗大腿"造假"：我没空P图

10Claude想让中国人全被封号：天才AI的访问头脑战

created by ceallan