DeepSeek Open-Sources Inference Framework DeepInfer; AI-Written ForgeKernel Tops Operator Benchmark in the Same Week
English text is being prepared.
DeepSeek recently fully open-sourced its inference framework DeepInfer, further opening up the model execution pipeline after the model weights and operator libraries such as FlashMLA and DeepGEMM. As of October 22, ForgeKernel—entirely written by AI with no manual line-by-line tuning—simultaneously topped the NVIDIA SOL-ExecBench FlashInfer-Bench combined leaderboard and the Ascend CANNBench A3 hardware leaderboard, with a benchmark speedup of 1.835×, 25% ahead of the runner-up. On the operators for DeepSeek v4.1 Flash, ForgeKernel, built from scratch through AI iteration, outperformed the NVIDIA version open-sourced by DeepSeek.
Why read this
AI score 60
DeepSeek's open-source inference framework and AI-generated operators top two benchmark leaderboards, revealing new shifts in competition at the compute layer.
Topics
Body
顶栏广告位
您正在使用IE低版浏览器，为了您的雷峰网账号安全和更好的产品体验，强烈建议使用更快更安全的浏览器
DeepSeek 开源看家算子的同一周，AI 超过了它
本文作者： Nemo
2026-10-26 14:58
导语：同一个模型、同一块芯片，换一套更优的算子，有时会带来数倍的性能提升。
国产大模型的竞争，正从模型层延伸到算力层：再强的模型，最终都要基于算子在芯片上执行。同一个模型、同一块芯片，换一套更优的算子，有时会带来数倍的性能提升。算子的效率决定了同样的显卡能跑多快，也决定了每个 token 的价格。
DeepSeek 近日全面开源推理框架 DeepInfer。继模型权重和 FlashMLA、DeepGEMM 等算子库之后，他们把模型运行的链路开放了。其中的 FlashMLA，有工程师在芯片上逐行手调的版本，算子性能跑到了硬件极限的 90% 以上，这也是人类手艺目前在部分芯片上达到的极限成绩。
而这个极限，同一周就被 AI 刷新了。据悉，截至 10 月 22 日，完全由 AI 编写算子、无人工逐行调优的 ForgeKernel，同时登顶两个算子评测榜：英伟达主场的 SOL-ExecBench FlashInfer-Bench 合集第一，以及昇腾 CANN 官方仓库维护的 CANNBench A3 硬件榜第一，基准加速比 1.835×，领先第二名 25%。在名次之外，AI自主优化算子的能力不容小觑：在DeepSeek v4.1 Flash的算子上，相比DeepSeek开源的英伟达版本，ForgeKernel也通过从0用AI迭代的方式实现了性能超越。
这是智能进化的接力。无论是DeepSeek的开源精神还是算子优化榜单的焦灼竞争，最终都导向同一个方向：让国产智能在每一块芯片上都跑得更快。
英伟达 SOL-ExecBench FlashInfer-Bench
DeepSeek 英伟达 ForgeKernel 算子评测榜
宁德时代董秘被打？知情人士回应；怕担责先跑路？娃 ...
StartLux推出全球首个决策模型推理引擎，最高提速度 ...
大肥鱼遇劲敌：MiniMax M3.1 Flash 拿下 Agent 任务 ...
停止加薪！大众计划冻结全球大量员工薪酬至2030年； ...
京东采销员工发布谣言诋毁其他平台被起诉，法院已立案
从 Dreamore 到 CreaXene：AI 生成工具正在走向创作工作流
豆包工作新增画布功能，并接入豆包2.1 Lite模型
最新文章
腾讯绿泡泡短剧小程序月活过亿，10月首周周活环比增长44.1%
“更懂你、会办事”，支付宝携手科大讯飞升级智能座舱服务
行业第一！百度健康AI服务MAU超5000万，发布好医矩阵和健康相机
拼多多紧急捐赠1000万元 驰援西藏那曲抗震救灾
融资 创业 银行 蚂蚁金服 Oculus Rift DIY 隐私 钉钉 kinect 反垄断 世界模型
立即设置 以后再说
优路跟踪代码