←事件详情

热点事件

谷歌提出Decoupled DiLoCo

1 篇正式报道1 条事件动态更新于 4月24日 00:00

先了解这件事

事件摘要

还没有公开综述,先看下面的报道时间线。

最新进展 · 正式报道

Decoupled DiLoCo:面向大规模弹性分布式 AI 训练的新架构

事件进展

1 个已确认进展

  1. 谷歌提出Decoupled DiLoCo

    来源:Google DeepMind

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

4月24日

  1. Google DeepMind一手精选

    Decoupled DiLoCo:面向大规模弹性分布式 AI 训练的新架构

    Google DeepMind 推出 Decoupled DiLoCo,通过异步连接相互解耦的计算“岛”,以较低带宽跨远程数据中心训练大语言模型,并隔离硬件故障。团队使用 2-5 Gbps 广域网络,在美国四个地区完成 120 亿参数模型的预训练,速度较传统同步方法快 20 倍以上。Gemma 4 测试显示,该架构在故障下保持更高可用性,并达到与传统训练相同的基准性能。

关联事件

  1. 相关事件Zyphra提出TSP并行分片策略
  2. 相关事件Google发表ERA研究并开放测试
  3. 相关事件Zyphra提出混合联想记忆HAM框架
  4. 相关事件谷歌发布TurboQuant压缩算法