←新闻详情

量子位更新于 10月13日 11:32

DeepSeek 官方开源昇腾基础组件,与昇腾共建 AI 芯片软件生态

DeepSeek官方开源昇腾基础组件,与昇腾共建高效易用的AI芯片软件生态

AI 导读

DeepSeek 团队开源面向昇腾的基础组件,与华为昇腾共建高效易用的 AI 芯片软件生态。华为提供联合定义的昇腾超节点 SuperPoD Flex 和 UBL128 组网方案,可实现 128 卡 3.2Tbps 单层交换 Scale-up 网络和 256K 卡两层交换 Scale-out 网络,支持超低时延推理与前沿基座模型大规模训练。DeepSeek 团队开发的高性能 DeepEP 通信库涵盖 EP、CP、PP、FSDP 等模式下的通信算子,互联带宽实测达到 Dispatch 375 GB/s、Combine 347 GB/s,接近硬件上限。

推荐理由

AI 评分 58

原文给出昇腾超节点组网方案与 DeepEP 通信库的实测带宽数据,可了解国产芯片软件栈的通信能力。

主题

标签

正文

华为向DeepSeek团队提供了联合定义的昇腾超节点SuperPoD Flex 和UBL128组网方案, 可实现128卡3.2Tbps单层交换Scale-up网络和256K卡两层交换Scale-out网络,可以支持超低时延推理和前沿基座模型的大规模训练的需求 。基于全互联的UBL128超节点,昇腾提供了 ASC-COMM 高性能自定义通信编程库,支撑用户通信算子与通算融合算子高性能编程。Deepseek团队开发了高性能 DeepEP 通信库,涵盖EP / CP / PP / FSDP 等模式下的通信算子,为更大模型向更大集群扩展提供支持,互联带宽实测达到 Dispatch 375 GB/s 、Combine 347 GB/s 的通信性能,接近硬件上限。

本文由华为提供,量子位获授权转载,观点归原作者所有。

来源

量子位