←事件详情

热点事件

H100与GB200训练基准对比

1 篇正式报道1 条事件动态更新于 8月20日 12:56

先了解这件事

事件摘要

还没有公开综述,先看下面的报道时间线。

最新进展 · 正式报道

H100 与 GB200 NVL72 训练基准:功耗、TCO、可靠性及软件改进分析

事件进展

1 个已确认进展

  1. H100与GB200训练基准对比

    来源:SemiAnalysis

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

8月20日

  1. SemiAnalysis精选

    H100 与 GB200 NVL72 训练基准:功耗、TCO、可靠性及软件改进分析

    SemiAnalysis 对 H100 与 GB200 NVL72 的训练性能、功耗、TCO 和可靠性进行了基准分析,发现 GB200 NVL72 的每 GPU 总成本及 TCO 约为 H100 的 1.6 倍。H100 软件优化使 GPT-3 175B 的 BF16 MFU 在一年内从 34% 升至 54%。GB200 NVL72 尚受可靠性和诊断工具限制,当前仍无法完成超大规模训练。

关联事件

  1. 相关事件AWS为Anthropic扩建AI基础设施
  2. 相关事件英伟达发布Rubin CPX加速器
  3. 相关事件xAI建设吉瓦级Colossus 2
  4. 相关事件Air Street更新AI算力指数