←事件详情

热点事件

Prime Intellect重建GLM-5.2权重传输方案

1 篇正式报道1 条事件动态更新于 9月3日 08:00

先了解这件事

AI 综述

Prime Intellect此前在28个H200节点上训练GLM-5这类万亿参数模型,单步时间已低于5分钟,但每步训练器到推理端的权重同步始终卡在60-90秒。按GLM-5.2 bf16约1,600GB权重、单GPU 400Gb/s NIC估算,理论下限约1.0秒。2026年9月3日,Prime Intellect基于NIXL和ModelExpress重建权重交接流程,把GLM-5.2的RL权重传输从60-90秒降到个位数秒,并去掉了静态进程组限制。

AI 根据公开报道生成

最新进展 · 正式报道

Prime Intellect 用 NIXL 和 ModelExpress 将 GLM-5.2 的 RL 权重传输压缩到 4 秒

事件进展

1 个已确认进展

  1. Prime Intellect用NIXL和ModelExpress加速权重传输

    来源:Prime Intellect

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

9月3日

  1. Prime Intellect一手

    Prime Intellect 用 NIXL 和 ModelExpress 将 GLM-5.2 的 RL 权重传输压缩到 4 秒

    Prime Intellect 基于 NIXL 和 ModelExpress 重建权重交接流程,把 GLM-5.2 的 RL 权重传输从 60-90 秒降到个位数秒,并去掉了静态进程组限制。此前 prime-rl 在 28 个 H200 节点上训练 GLM-5 这类万亿参数模型,单步时间已低于 5 分钟,但每步训练器到推理端的权重同步始终卡在 60-90 秒。按 GLM-5.2 bf16 约 1,600GB 权重、单 GPU 400Gb/s NIC 估算,理论下限约 1.0 秒。

关联事件

  1. 相关事件Meta 推出 ZippyDB 代理层 ZGateway
  2. 相关事件LMSYS 公开 Infer-forge 构建方法论
  3. 相关事件Browser Use开源200个长时程RL环境
  4. 相关事件LMSYS 将 Ling-3.0-flash 单请求解码优化至 606 tok/s