先了解这件事
AI 综述
2026年8月20日,LMSYS 博客介绍,Mooncake 已集成进 Miles 强化学习框架,作为 rollout 数据传输后端。Miles 结合 SGLang 做高吞吐 rollout 生成、Megatron-LM 做训练,并提供 PyTorch FSDP2 后端,支持全异步 RL。由于 rollout 数据是含 tokens、loss_masks、rollout_log_probs 等字段的异构结构,且以 list[np.ndarray] 形式高度碎片化,Mooncake 需在保留结构的同时实现高效批量 I/O。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Mooncake 为 Miles 加速:从碎片化 rollout 数据到高效批量 I/O事件进展
1 个已确认进展
- 来源:LMSYS Blog
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
8月20日
LMSYS Blog一手
Mooncake 为 Miles 加速:从碎片化 rollout 数据到高效批量 I/O
LMSYS 博客介绍 Miles 强化学习框架如何借助 Mooncake 优化 rollout 到训练的数据传输。Miles 结合 SGLang 做高吞吐 rollout 生成、Megatron-LM 做训练,并提供 PyTorch FSDP2 后端,支持全异步 RL。由于 rollout 数据是含 tokens、loss_masks、rollout_log_probs 等字段的异构结构,且以 list[np.ndarray] 形式高度碎片化,Mooncake 需在保留结构的同时实现高效批量 I/O。