White Circle 发布后训练框架 Halo,为 Hugging Face 模型加入分布式训练
White Circle 于 9 月 21 日发布后训练框架 Halo,可在 Hugging Face 既有模型上加入多 GPU 分布式训练,无需重写模型实现,新模型系列适配代码约 100 行,权重仍以 SafeTensors 格式保存。在 8 基 NVIDIA B300 上对 gpt-oss-20b 的实测中,Halo 的吞吐最高达到 TRL 的 2.8 倍,峰值显存随配置变化,约 26GB 至 60GB。用 Halo 对 GLM-4.7-Flash 做监督微调后,GLM-4.7-Flash-Coder 在 SWE-rebench-V2 上的单次尝试解决率从 33.15% 提升到 41.65%。
#开源/仓库#数据/训练#部署/工程

