先了解这件事
AI 综述
2026年10月,InternLM 发布 XTuner V1,一款专为超大规模 MoE 模型设计的新一代 LLM 训练引擎。据官方介绍,该引擎支持最高 1T 参数 MoE 训练,200B 模型无需专家并行,600B 模型仅需节点内专家并行,并可在 64k 序列长度下训练 200B MoE 模型而无需序列并行。官方还称,XTuner V1 首次让 200B 以上 MoE 的 FSDP 训练吞吐超过传统 3D 并行方案,在昇腾 A3 Supernode 上的训练效率超过 NVIDIA H800。目前该发布尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
InternLM 发布 XTuner V1：面向超大规模 MoE 模型的新一代训练引擎事件进展
1 个已确认进展
- 来源：InternLM 原创项目
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月13日
InternLM 原创项目一手
InternLM 发布 XTuner V1：面向超大规模 MoE 模型的新一代训练引擎
InternLM 发布 XTuner V1，一款专为超大规模 MoE 模型设计的新一代 LLM 训练引擎。它支持最高 1T 参数 MoE 训练，200B 模型无需专家并行、600B 模型仅需节点内专家并行，并可在 64k 序列长度下训练 200B MoE 模型而无需序列并行；官方称其首次让 200B 以上 MoE 的 FSDP 训练吞吐超过传统 3D 并行方案，在昇腾 A3 Supernode 上的训练效率超过 NVIDIA H800。