面壁智能开源 ForgeKernel：DeepSeek V4.1 预填充内核提速 9.8%
ForgeKernel Live has wrapped up with a 9.8% speedup over the FlashMLA baseline on DeepSeek V4.1 FlashMLA Prefill, measured on NVIDIA B200. Now, we’re open-sourc
面壁智能宣布开源 ForgeKernel，其智能体在约 22 小时内完成 42 轮迭代、产出 32 个内核版本，最终在 NVIDIA B200 上对 DeepSeek V4.1 FlashMLA Prefill 实现 1.098 倍性能，472 µs 对比基线 518 µs。官方 FlashMLA 实现全程封闭，智能体只能运行并计时其黑盒 CLI，无法读取源码、文档或性能剖析数据。此次开源内容包括优化后的 DeepSeek V4.1 融合预填充内核、论文中覆盖 attention、Gated DeltaNet、Kimi Delta Attention、GEMM 和卷积的内核，以及可用来优化自有内核的 ForgeKernel harness；在 27 个算子上，ForgeKernel 与 22 个专家库内核中的 18 个持平或更优，并优于三个内核生成系统已发布的全部 7 个内核。
查看原帖ForgeKernel 直播：优化 DeepSeek 的一个内核 https://t.co/vYaS4apfT3
查看原文
ForgeKernel Live: Optimising a kernel of DeepSeek https://t.co/vYaS4apfT3
正文 · AI 翻译
ForgeKernel Live 已收官，在 NVIDIA B200 上实测，于 DeepSeek V4.1 FlashMLA Prefill 上相较 FlashMLA 基线实现 9.8% 的提速。现在，我们正式开源 ForgeKernel！🚀
快速回顾： ⌛️ 约 22 小时的自主优化 🛠️ 42 轮迭代，产出 32 个内核版本 ✅ 第 13 版在 10 小时内首次超越基线 📈 第 31 版达到 1.098 倍性能：472 µs 对比 518 µs
官方 FlashMLA 实现全程封闭。智能体可以运行并计时其黑盒 CLI，但无法读取其源码、文档或性能剖析数据。
我们发布： 1️⃣ 优化后的 DeepSeek V4.1 融合预填充内核。 2️⃣ 来自我们 ForgeKernel 论文的内核，覆盖 attention、Gated DeltaNet、Kimi Delta Attention、GEMM 和卷积。在 27 个算子上，ForgeKernel 与 22 个专家库内核中的 18 个持平或更优，并在我们的评估中优于三个内核生成系统已发布的全部 7 个内核。 3️⃣ ForgeKernel harness，让你可以优化自己的内核，并探索一代又一代的持续改进。
感谢所有关注本次直播运行的人。我们很期待看到社区接下来会构建出什么！
🔗 直播：https://t.co/JfiI1jnzLe 💻 代码：https://t.co/C0yX3vxlf7