先了解这件事
LMSYS 于 2026 年 10 月 9 日宣布,在提前获得的 NVIDIA Vera Rubin 节点上跑通 SGLang 推理与 Miles 强化学习训练。据 LMSYS Blog 介绍,团队拿到两个 Vera Rubin 节点共 8 块 GPU,把两套系统搬上该平台。推理侧针对 Kimi K3 NVFP4 调整 attention、MoE/通信与 KDA 内核,其中更深的 MLA 流水线在 batch 16、128k 上下文下快 16%,融合 MoE 尾部每步减少 276 次内核启动、端到端提升 5.9%。训练侧 Miles 以 SGLang 做 rollout、Megatron 做训练,在单托盘 4 块 GPU 上开箱跑通 Qwen3-30B-A3B 的 GSM8K 训练,奖励从约 45% 升到 95%,并在 Vera CPU 上以 64 个沙箱运行 SWE-bench Verified 的智能体 RL。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
SGLang 与 Miles 在 NVIDIA Vera Rubin 上的适配与优化事件进展
1 个已确认进展
- 来源：LMSYS Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月9日
LMSYS Blog一手
SGLang 与 Miles 在 NVIDIA Vera Rubin 上的适配与优化
LMSYS 团队提前拿到两个 NVIDIA Vera Rubin 节点（8 块 GPU），把 SGLang 推理和 Miles 强化学习训练搬上该平台。推理侧针对 Kimi K3 NVFP4 调整了 attention、MoE/通信和 KDA 内核，例如更深的 MLA 流水线在 batch 16、128k 上下文下快 16%，融合 MoE 尾部每步减少 276 次内核启动、端到端提升 5.9%。训练侧 Miles 用 SGLang 做 rollout、Megatron 做训练，在单托盘 4 块 GPU 上开箱跑通 Qwen3-30B-A3B 的 GSM8K 训练，奖励从约 45% 升到 95%，并在 Vera CPU 上以 64 个沙箱运行 SWE-bench Verified 的智能体 RL。