←事件详情

热点事件

Qwen 开源 FlashQLA 线性注意力内核库

1 篇正式报道1 条事件动态更新于 4月28日 10:00

先了解这件事

AI 综述

2026 年 4 月 28 日,Qwen 团队开源 FlashQLA 线性注意力内核库。据 Qwen Blog 介绍,该库基于 TileLang,对 GDN Chunked Prefill 的前向与反向流程做算子融合,在 NVIDIA Hopper 上相比 FLA Triton 内核实现 2-3× 前向加速和 2× 反向加速。其通过门控驱动的自动卡内上下文并行(CP)和硬件友好的代数重写,提升 TP、长序列、小头数场景下的 GPU SM 利用率。代码与基准已开源于 github.com/QwenLM/FlashQLA。目前尚无后续发展事实。

AI 根据公开报道生成

最新进展 · 正式报道

FlashQLA:面向 GDN 的 CP/反向友好融合线性注意力内核

事件进展

1 个已确认进展

  1. Qwen 开源 FlashQLA 线性注意力内核库

    来源:Qwen Blog

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

4月28日

  1. Qwen Blog一手

    FlashQLA:面向 GDN 的 CP/反向友好融合线性注意力内核

    Qwen 团队开源 FlashQLA,一个基于 TileLang 的高性能线性注意力内核库,对 GDN Chunked Prefill 的前向与反向流程做算子融合,在 NVIDIA Hopper 上相比 FLA Triton 内核实现 2-3× 前向加速和 2× 反向加速。它通过门控驱动的自动卡内上下文并行(CP)和硬件友好的代数重写,提升 TP、长序列、小头数场景下的 GPU SM 利用率,代码与基准已开源于 github.com/QwenLM/FlashQLA。

关联事件

  1. 相关事件Moonshot AI发布旗舰模型Kimi K3
  2. 相关事件Meta发布Muse Glimmer 30B开放权重模型
  3. 相关事件阿里发布Qwen3.8-27B及配套量化微调工具
  4. 相关事件Z.ai发布GLM-5.3模型