先了解这件事
事件摘要
还没有公开综述,先看下面的报道时间线。
最新进展 · 正式报道
Decoupled DiLoCo:面向大规模弹性分布式 AI 训练的新架构事件进展
1 个已确认进展
- 来源:Google DeepMind
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
4月24日
Google DeepMind一手精选
Decoupled DiLoCo:面向大规模弹性分布式 AI 训练的新架构
Google DeepMind 推出 Decoupled DiLoCo,通过异步连接相互解耦的计算“岛”,以较低带宽跨远程数据中心训练大语言模型,并隔离硬件故障。团队使用 2-5 Gbps 广域网络,在美国四个地区完成 120 亿参数模型的预训练,速度较传统同步方法快 20 倍以上。Gemma 4 测试显示,该架构在故障下保持更高可用性,并达到与传统训练相同的基准性能。