Qwen3.8-Flash-Next 开源,SGLang 提供 day-0 支持
Qwen 团队开源 Qwen3.8-Flash-Next,这是一个多模态 MoE 模型,也是 Qwen4 架构的早期预览,SGLang 联合 Qwen、NVIDIA、AMD 提供 day-0 支持。模型主模型 125B 参数,另有 51B N-gram Embedding,每 token 激活 6B 参数,共 48 层,其中 36 层 GDN 线性注意力、12 层 QSA 稀疏注意力,MoE 使用 512 个专家、top-10 路由。SGLang 侧给出 NVFP4 量化 checkpoint、N-gram Embedding 主机内存卸载、Gated Residual 的 FlashInfer 算子以及 MTP 索引复用等优化,在 B200 TP4 下 NVFP4 checkpoint 配合 MTP 在 batch size 1 时解码达 540 tok/s。
#开源/仓库#模型发布#多模态

