先了解这件事
2026年8月26日至27日,阿里发布Qwen3.8-Flash-Next模型权重。据Qwen Blog,该模型为多模态MoE架构,主模型125B参数、额外51B N-gram嵌入参数,每token激活6B,训练成本约为Qwen3.7-Plus的1/9,原生支持262,144 tokens上下文并可通过YaRN扩展至1,000,000 tokens。该模型是Qwen4架构的早期预览,在注意力、残差、嵌入和优化四方面升级,采用GDN+QSA混合注意力、Gated Residual、N-gram Embedding与Muon优化器,权重已在Hugging Face和ModelScope开放;生产版本以qwen3.8-flash名称在QwenCloud提供服务,默认1M上下文并内置官方工具,定价为每百万输入tokens 0.15美元、每百万输出tokens 0.47美元。NVIDIA方面称,其提供SGLang、vLLM和TensorRT LLM的Day 0功能支持,并在GB300 NVL72上验证推理,单GPU吞吐超过16K token/秒、单用户超过200 token/秒;开发者可用NVI
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源:Qwen Blog
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
8月27日
NVIDIA Developer · Generative AI一手精选
NVIDIA 在 GB300 NVL72 上实测 Qwen3.8-Flash-Next 智能体编码
阿里发布 Qwen3.8-Flash-Next 权重,作为 Qwen4 架构预览供开发者实验评估,这是一个 125B 参数、每 token 激活 6B 的多模态 MoE 模型,原生上下文窗口 262,144 token,借助 YaRN 可扩展至 1M token。NVIDIA 提供 SGLang、vLLM 和 TensorRT LLM 的 Day 0 功能支持,并在 GB300 NVL72 上验证推理,单 GPU 吞吐超过 16K token/秒、单用户超过 200 token/秒。开发者可用 NVIDIA NeMo AutoModel 微调、用 NeMo RL 做强化学习,权重可从 Hugging Face 或 ModelScope 下载。
8月26日
Qwen Blog一手精选
Qwen 开源 Qwen3.8-Flash-Next:125B 参数 MoE,激活 6B,训练成本约为 Qwen3.7-Plus 的 1/9
Qwen 团队开源多模态 MoE 模型 Qwen3.8-Flash-Next,主模型 125B 参数、额外 51B N-gram 嵌入参数、每 token 激活 6B,训练成本约为 Qwen3.7-Plus 的 1/9,原生支持 262,144 tokens 上下文并可通过 YaRN 扩展至 1,000,000 tokens。该模型是 Qwen4 架构的早期预览,在注意力、残差、嵌入和优化四方面升级,采用 GDN + QSA 混合注意力、Gated Residual、N-gram Embedding 与 Muon 优化器,权重已在 Hugging Face 和 ModelScope 开放。生产版本以 qwen3.8-flash 名称在 QwenCloud 提供服务,默认 1M 上下文并内置官方工具,定价为每百万输入 tokens 0.15 美元、每百万输出 tokens 0.47 美元。
LMSYS Blog一手精选
Qwen3.8-Flash-Next 开源,SGLang 提供 day-0 支持
Qwen 团队开源 Qwen3.8-Flash-Next,这是一个多模态 MoE 模型,也是 Qwen4 架构的早期预览,SGLang 联合 Qwen、NVIDIA、AMD 提供 day-0 支持。模型主模型 125B 参数,另有 51B N-gram Embedding,每 token 激活 6B 参数,共 48 层,其中 36 层 GDN 线性注意力、12 层 QSA 稀疏注意力,MoE 使用 512 个专家、top-10 路由。SGLang 侧给出 NVFP4 量化 checkpoint、N-gram Embedding 主机内存卸载、Gated Residual 的 FlashInfer 算子以及 MTP 索引复用等优化,在 B200 TP4 下 NVFP4 checkpoint 配合 MTP 在 batch size 1 时解码达 540 tok/s。