Qwen 开源 Qwen3.8-Flash-Next:125B 参数 MoE,激活 6B,训练成本约为 Qwen3.7-Plus 的 1/9
Qwen 团队开源多模态 MoE 模型 Qwen3.8-Flash-Next,主模型 125B 参数、额外 51B N-gram 嵌入参数、每 token 激活 6B,训练成本约为 Qwen3.7-Plus 的 1/9,原生支持 262,144 tokens 上下文并可通过 YaRN 扩展至 1,000,000 tokens。该模型是 Qwen4 架构的早期预览,在注意力、残差、嵌入和优化四方面升级,采用 GDN + QSA 混合注意力、Gated Residual、N-gram Embedding 与 Muon 优化器,权重已在 Hugging Face 和 ModelScope 开放。生产版本以 qwen3.8-flash 名称在 QwenCloud 提供服务,默认 1M 上下文并内置官方工具,定价为每百万输入 tokens 0.15 美元、每百万输出 tokens 0.47 美元。
okens with YaRN. For more technical details on the architecture, training methodology, and experimental analysis of Qwen3.8-Flash-Next, please refer to the technical report in our GitHub repository. Qwen3.8-Flash-Next weights are now available on Hugging Face and ModelScope . The production version, with 1M context by default and official built-in tools, is served as Qwen3.8-Flash on QwenCloud , priced at 0.15 USD per million input tokens and 0.47 USD per million output tokens . Performance Lang
匹配字段正文




