Dongfang Suanxin's 128-card 3D chip cluster goes live, sprinting toward thousand-card delivery by year-end
English text is being prepared.
At the Guoxin Exhibition, Dongfang Suanxin announced that its 128-card DF1000 training cluster is running stably and that it has achieved large-scale training cluster delivery, with plans to achieve thousand-card-level cluster delivery by the end of the year. The cluster trained continuously for 72 hours without interruption and has carried training tasks for models such as Llama2-70B and Step 130B; the hundred-billion-parameter-level Step 130B completed training adaptation in only 7 days. The DF1000 adopts 3D-stacked near-memory computing, with per-chip memory access bandwidth of 6.4TB/s, and has completed a closed loop across the domestic industrial chain from chip design and 14nm wafer manufacturing to 3D hybrid bonding packaging.
Why read this
AI score 64
The original article uses three delivery figures and architectural details to explain the path of domestic computing power shifting from single-card parameter competition to system delivery efficiency.
Topics
Body
注册/登录3D大算力芯片集群首次落地,国产算力走出新路线原创来源:半导体产业纵横发布时间:2026-10-21 17:10作者:鹏程算力芯片制造生成海报国产算力开始拼交付效率了。
10月的上海,工博会首次设立的“国芯展”上,东方算芯展台的三张数据卡被不少人拍了下来:全球首次验证3D芯片集群系统、7天完成主流大模型训练适配、24个月跑通芯片—软件—集群全链路。
单看,每一个都是典型的发布会数字。连起来看,三个数字分别指向三种能力:系统级验证能力、软件适配速度、产业化交付效率。三种能力共同的落点,是这家公司在国芯展上宣布的另一件事:128卡集群系统稳定运行,已实现大规模训练集群交付,年底实现千卡级集群交付。
纵观整个行业,过去两年,国产算力芯片发布密集,单卡参数不断逼近海外旗舰,但从参数发布到规模交付之间,隔着漫长的工程周期。魏少军教授深度洞察到,当下AI应用以周为单位快速更新,大模型算法以月为单位迭代升级,但芯片研发迭代以年为周期,系统部署后更是可以稳定运行5至10年。这种迭代节奏的严重失衡,对芯片设计、系统适配提出了极高要求。
01 首次、7天、24个月:一场交付的三个侧面
东方算芯正是带着解决这个落差的目标出现的。这家公司2024年5月在上海张江成立;今年4月底完成A+轮融资,投后估值122.75亿元,国家人工智能产业基金位列股东;9月完成股份制改造,并计划四季度启动B轮融资。董事长魏少军是清华大学长聘教授、中国半导体行业协会副理事长,团队脱胎于清华在可重构计算方向近二十年的研究积累。成立两年半,东方算芯便完成了从芯片研发、全栈软件适配到百卡级训练集群规模化部署的完整闭环,并把整个过程压缩进了24个月。这场交付是怎么跑出来的?三个数字里藏着答案。
首先是全球首次验证3D芯片集群系统。单卡点亮和规模部署之间,隔着的不仅是量的差别,更是工程难度质的差别。在此之前,3D堆叠大算力芯片一直停留在论文和样片阶段。作为3D堆叠的关键技术之一,混合键合工艺2016年前后由索尼用于图像传感器,2018年长江存储将其用于3DNAND,此后近十年,这项工艺的主要应用场景始终是传感器和闪存。把同样的工艺用在DRAM与AI逻辑芯片之间、再组成集群连续进行大模型训练,此前却没有人做到过。
更关键的是,当大算力芯片组成集群后,问题还将被放大。数百颗芯片协同训练,任何一颗的链路稳定性、显存可靠性、温度控制问题,都会在长时间连续运行中暴露出来。对训练集群而言,72小时是一道公认的门槛。只有在足够长的连续负载下,系统的薄弱环节才无处藏身。据东方算芯在国芯展披露,128卡DF1000训练集群连续训练72小时无中断,训练精度达标,已承载Llama2-70B、Step 130B等多个大模型训练任务。
在供应链方面,DF1000从芯片设计、14nm晶圆制造、3D混合键合封装到封测,全部在本土产业链上完成闭环,集群侧的交换机、网卡直接选用成熟的国产产品。DF1000最重要的价值在于实现了全国产供应链,而非单项性能指标领先。在先进制程和HBM供应都存在不确定性的现实下,全本土闭环本身就是一项需要验证的能力。这次验证的对象不仅是芯片,还有整条国产供应链支撑大规模训练的成色。
其次是7天完成主流大模型训练适配。客户真正关心的问题只有一个:自己的模型能不能跑,要付出多大代价。国芯展上披露的数字是:千亿参数级的Step 130B大模型,仅用7天完成训练适配。过去,国产算力迁移的团队进行跨平台适配时,往往需要数月的人力投入,涉及算子重写、精度对齐、通信调优和回归测试,是客户选型国产芯片时最大的隐性成本。7天适配,把“迁移”从项目变成了工序。
最后是24个月跑通芯片—软件—集群全链路。行业常规节奏下,从芯片流片、软件适配到集群搭建,往往需要三到四年。东方算芯的路径是三线并行:芯片设计、编译器与算子库开发、集群系统架构同步推进、协同验证,而不是等芯片流片成功再启动软件、等软件适配完成再搭建集群。从公司2024年5月成立,到首个全国产大规模训练集群交付,全程24个月。
并行能够成立,前提是各环节的确定性足够高。DF1000加速卡回片后,算力、显存带宽、通信带宽、功耗温度等全项规格测试一次完成,11项BF16算子测试全部一次性通过。软硬件协同设计在硅片上的有效性,减少了后续环节的返工。集群侧形成了“部署—联调—压测—试训—验收”的标准化交付流程,从基建适配到具备大模型训练能力全流程可控。
02 效率从哪来:架构、研发、运维、供应链
这套效率在工程组织层面可以找到部分解释,但更根本的答案在技术路线的选择里。对关注国产算力的从业者来说,看一家算力公司的真实水位,主要看三样东西:总体拥有成本(TCO)、交付能力、软件生态。而东方算芯通过近存计算加软件定义这条技术路线在支撑着这三者。
在架构方面,3D堆叠近存计算突破“内存墙”瓶颈。传统高端AI芯片采用“计算核心+外置HBM”的分离架构,带宽瓶颈要靠先进制程和更复杂的封装来弥补,数据在计算单元与存储单元之间长距离搬运,功耗和成本水涨船高。DF1000的选择是从根上改变存储与计算的连接方式:把DRAM晶圆直接键合在逻辑晶圆上方,铜焊盘对准直连,中间没有凸点,也没有中介层,互连间距从数十微米压缩到亚微米级,单芯片访存带宽做到6.4TB/s。这个带宽水平高于采用HBM显存方案的主流AI芯片的官方规格:H100为3.35TB/s,H200为4.8TB/s,MI300X为5.3TB/s。DF1000在14nm工艺上做到了HBM3E级别的带宽,而没有使用HBM。带宽优势在路线图里继续放大:按计划今年四季度推出的DF2000,访存带宽将提升至15TB/s,超过B200的8TB/s。
在研发模式方面,统一技术栈实现跨代复用,降低适配成本。传统模式中,芯片、基础软件、集群系统往往分属不同厂商,跨架构、跨平台的适配要重复投入,每一代硬件升级都意味着全链路的重新适配。东方算芯的做法是从芯片架构到编译器、算子库、集合通信库、分布式训练框架再到集群调度与运维工具全部自研。资料显示,东方算芯全套自研了全栈自主CAAP软件栈,覆盖编译器、算子库、分布式通信库、训练框架与一站式开发工具,全面兼容主流深度学习框架,DeepSeek、千问、STEP等开源大模型可快速迁移部署,降低国产算力芯片落地适配成本。由于芯片、软件、集群出自同一支团队,每一代迭代不需要跨厂商重新适配,上一代积累的算子优化与调度策略可以直接复用到下一代产品。软件定义的架构属性放大了这种优势。传统AI芯片是硬件功能固化的,芯片流片时,支持哪些算子、什么数据通路就已经烧死在硅片里。而软件定义芯片硬件的Tile阵列和数据通路可以由软件配置,同一颗芯片通过不同的软件配置执行不同的计算结构。于是适配的重心从硬件挪到了软件层,对于新模型的适配,CAAP编译器只需把它映射成数据流图,在Tile阵列上展开执行,核心算子已被算子库覆盖,只需做增量优化。芯片换代后,硬件执行模式保持一致,上一代打磨的编译器优化、算子实现、调度策略可以直接沿用,不需要围绕新硬件重建。
在运维方面,“全栈同构+智能运维”降低集群运维成本。异构硬件、混合架构的集群,排错、调优、兼容性维护的工作量随规模线性增长。东方算芯全栈同构的技术体系叠加集群搭载的智能调度、故障自愈、全维度监控体系,使有限的运维团队即可支撑128卡集群的稳定运行,运维人效的差距,在集群规模上千之后会进一步放大。
在供应链方面,全国产供应链解决可交付性。依赖先进制程与海外高端器件的路线,扩产周期受制于外部产能与管制清单。DF1000依托全国产成熟制程供应链,不受海外技术管制约束,产能扩张速度快,交付周期可控,供应链安全自主,能够快速响应市场算力建设需求。年底冲刺千卡级集群的底气正来源于此。
当然,这条路线有自己的代价。3D堆叠的良率随层数增加呈乘积衰减,层数越多、容量越大,成本压力越明显,成品率是3D堆叠的天花板。用成熟制程换性能窗口,本质是用工程复杂度对冲工艺代差,这个交换在当前的产业链条件下是划算的,但它不是免费午餐。
03 需求就位,近存算力进入规模化交付窗口
路线优势最终要放到市场里检验,而市场给出的信号足够清晰。据中国信通院数据,2026年一季度国内AI算力需求同比上涨417%,供给增速为128%,高端芯片进入卖方市场,一卡难求。
需求端,主要来自两股力量拉动。首先是信创的深化,随着算力自主化的要求延伸到金融、电信、能源等行业核心系统,对算力底座的要求从“能用”升级为“规模化能用”;其次是行业AI的加速落地,大模型从互联网厂商向行业场景渗透,出于数据安全和业务时延的考虑,行业客户的训练与推理负载越来越多地要求私有化部署。这些需求使高性价比、可规模交付的国产算力成为刚需。更关键的是,负载结构也在发生变化。预训练集中在头部大模型厂商和国家级算力中心,更大的增量在行业模型的微调与推理,这些负载对单卡峰值参数不敏感,对总拥有成本、交付周期和长期稳定运行更敏感,恰好落在近存计算方案的长项上。
供给端,东方算芯的产品层级覆盖从单卡到整集群的不同规模需求。巅峯DF1000加速卡是最小交付单元,擎元QY100是单机8卡服务器,拓域TY64是64卡液冷超节点、单节点算力33 PFLOPS(BF16),慧算系列覆盖128卡、256卡与512卡集群、整体交付。128卡集群系统稳定运行,已实现大规模训练集群交付,年底实现千卡级集群交付。迭代节奏也已排定:DF2000计划今年四季度推出,BF16算力约1000 TFLOPS、访存带宽15TB/s;DF3000计划2027年四季度推出,指标在此基础上再翻一倍。
对国产算力产业而言,这条路线的价值不止于一家公司。它提供了一种可复制的范式:不依赖最先进制程和HBM,立足全国产供应链,以架构创新换取系统效率,低投入、快落地、可迭代。当越来越多的行业负载需要在自主可控的底座上运行,这种范式的产业空间会被进一步打开。
04 结语
回头来看,24个月跑通芯片到集群的全链路,是近存计算技术路线的一次完整自证:系统级验证、软件适配、产业化交付三个环节的效率优势,最终汇成了“全国产训练集群交付”这个结果。国产算力由此跨过从参数发布到产业化验证的关键节点。
这条路线究竟能走多远,魏少军教授自己给出了克制的答案,整套软件定义近存计算路线的长期天花板仍是制程工艺。他坦言,若未来国内先进制程取得突破,公司会第一时间引入更先进工艺。这条路线的意义,是为国产算力争取到一个时间窗口,而不是宣布制程不再重要。
验证之后的规模化应用才是真正的考验。128卡到千卡,规模每上一个台阶,稳定性、良率、运维、交付组织的压力都会换一种量级出现;真实客户的业务负载,比试训阶段的模型组合更加芜杂;而这条路线能否在长期演进中持续兑现性能承诺,还需要时间回答。
过去几十年,国产芯片产业回答的核心问题一直是“能不能造出来”;三个数字提示,行业命题已经换成了“能不能交付、能不能用起来”。芯片与算法之间以年对周的时间落差,靠单点参数追不平。而东方算芯这条路线第一次证明,它可以用系统效率来填。当芯片的迭代速度开始跟上应用更新的速度,国产算力与 AI 产业演进之间的错配,才真正第一次看到了弥合的可能。
此内容为平台原创,著作权归平台所有。未经允许不得转载,如需转载请联系平台。评论暂无用户评论最新资讯更多 相关推荐
罕见联手!AMD与Intel在x86 CPU上达成AI软件同盟2026-10-21 18:11
Groq下一代芯片,将采用3D封装技术2026-10-21 18:04
19800315212(微信同号)半导体产业纵横公众号
半导纵横公众号