先了解这件事
事件摘要
还没有公开综述,先看下面的报道时间线。
最新进展 · 正式报道
H100 与 GB200 NVL72 训练基准:功耗、TCO、可靠性及软件改进分析事件进展
1 个已确认进展
- 来源:SemiAnalysis
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
8月20日
SemiAnalysis精选
H100 与 GB200 NVL72 训练基准:功耗、TCO、可靠性及软件改进分析
SemiAnalysis 对 H100 与 GB200 NVL72 的训练性能、功耗、TCO 和可靠性进行了基准分析,发现 GB200 NVL72 的每 GPU 总成本及 TCO 约为 H100 的 1.6 倍。H100 软件优化使 GPT-3 175B 的 BF16 MFU 在一年内从 34% 升至 54%。GB200 NVL72 尚受可靠性和诊断工具限制,当前仍无法完成超大规模训练。