先了解这件事
AI 综述
2026年8月13日,Prime Intellect 发布 Prime Flash MoE,一组为 Blackwell 优化的 CUDA 内核。该内核通过避免中间张量落盘来减少显存流量,相比 PyTorch grouped GEMM 最高快 2.4×,在 4k-128k token 区间约 2.3× 加速。内核提供 bf16 与 MXFP8 两条数据路径,并包含 fused 与 split 两种流水线,已集成进 prime-rl 框架,用于加速 MoE 模型前向传播。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源:Prime Intellect
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
8月13日
Prime Intellect一手
Prime Flash MoE:为 Blackwell 优化的更快 MoE CUDA 内核
Prime Intellect 发布 Prime Flash MoE,一组为 Blackwell 优化的 CUDA 内核,通过避免中间张量落盘减少显存流量,比 PyTorch grouped GEMM 最高快 2.4×,在 4k-128k token 区间约 2.3× 加速。内核提供 bf16 与 MXFP8 两条数据路径,并含 fused 与 split 两种流水线,已集成进 prime-rl 框架以加速 MoE 模型前向传播。