Oracle Acceleron 为 AI 新增前端 RDMA 与多平面故障切换
Oracle Acceleron Adds Front-End RDMA and Multiplanar Failover for AI
Oracle 在 Oracle AI World 上为 Oracle Acceleron 云网络新增前端 RDMA 连接、NVMe 块存储扩展选项(性能最高提升 3x)以及面向多平面网络的集合通信库 OCCL。OCCL 作为常见集合通信库的插件,可在链路、端口或 NIC 故障时自动切换路径,让分布式训练无需重启作业。Transparent Front-End Multiplanar Networking 则为前端网络带来透明的路径选择、故障切换与拥塞控制。
正文 · AI 翻译
2026年10月27日,在拉斯维加斯举行的Oracle AI World大会上,Oracle宣布为AI工作负载推出全新的Oracle Acceleron云网络能力,包括前端RDMA连接、扩展的NVMe块存储选项(Oracle称性能最高提升3倍),以及面向其多平面网络的集合通信库。
Oracle Acceleron是Oracle Cloud Infrastructure的网络与基础设施技术套件,用于可靠、安全且大规模地运行高要求的AI工作负载。它结合了专用网络架构、更直接的数据路径和融合网卡,并采用主机级零信任路由和多平面设计以保障安全性与韧性。新能力涵盖三个方面:AI数据移动、分布式AI通信,以及安全的多租户AI基础设施。
“当数千个加速器协同工作时,一条拥塞或故障的路径所造成的影响可能远超单个连接,”OCI计算与AI基础设施执行副总裁Pradeep Vincent在Oracle的公告中表示。Vincent称,公司正在构建Acceleron以通过重新路由流量、从故障中恢复并帮助客户安全扩展来应对这一问题。
第一项新能力Oracle Acceleron高性能网络架构将RDMA连接引入OCI前端计算,Oracle表示它可帮助客户以更高性能部署推理、存储和HPC工作负载。第二项是在Oracle Acceleron裸金属和虚拟机规格上扩展的NVMe块存储挂载选项,据公告称,可将AI、数据库及其他数据密集型工作负载的性能最高提升3倍。
在Oracle OCI博客的一篇技术文章中,作者将RDMA描述为在不同机器的内存之间直接移动数据,CPU参与极少,绕过了传统传输中的大部分操作系统和软件处理,从而降低延迟、维持高吞吐量,并为应用留出更多CPU容量。作者写道,这些优势不仅限于GPU间通信,还延伸到存储访问和跨集群传输,但RDMA对共享、混合工作负载网络中的拥塞、延迟和丢包高度敏感。
一个公平性问题在于,RDMA通常使用基于速率的拥塞控制,而TCP使用基于窗口的控制,根据流量模式的不同,一种控制回路可能压垮另一种。为保持公平性,文章指出Oracle Acceleron SmartNIC使用分层令牌桶来跟踪RDMA和非RDMA流量的带宽消耗:父桶代表共享带宽,每个流量类别对应一个子桶;随着令牌耗尽,SmartNIC会以概率方式标记支持ECN的数据包,或丢弃无法响应的数据包,从而产生渐进的拥塞信号。该机制是工作守恒的,因此任一流量类别都可以借用未使用的带宽,它还能解决机架顶部交换机连接到SmartNIC时的入向突发(incast)问题。
对于网络架构内部的拥塞,OCI在Acceleron SmartNIC中使用单向延迟拥塞控制。作者解释说,测量前向路径延迟可避免往返测量在仅反向路径拥塞时产生的虚假拥塞信号。当某条流显示延迟升高时,SmartNIC会探测三条备用路径,若找到更优路径则迁移该流;否则通过ECN标记或丢包发出拥塞信号。OCI的前端RDMA支持所有队列对类型和verbs,使客户无需修改即可运行现有应用。
公告中的分布式通信能力是Oracle集合通信库(OCCL)和透明前端多平面网络。Oracle表示,OCCL通过在OCI后端多平面网络上分散集合通信流量、将流量引导至更健康的路径,并在链路、端口或网卡故障时进行恢复,帮助分布式AI工作负载在网络路径故障时继续运行。透明前端多平面网络将多平面网络引入前端网络,内置透明的路径选择和故障切换,并为前端RDMA流量提供透明的拥塞控制。
博客从训练角度阐述了这一问题:同步作业的速度取决于链条中最慢的链路,因此单条拥塞或故障的路径可能导致整个工作负载变慢,而标准的等价多路径转发会在不了解流大小的情况下将流固定到路径上,造成链路利用率不均。多平面网络架构此前还需要具备专门功能的多端口网卡,作者写道这并非总是可行;OCI构建OCCL正是为了在通用AI和机器学习工作负载中消除这一限制。
OCCL 是常用集合通信库的一个插件,AI 框架借助这些库在 GPU 之间协调数据交换。根据该文章,它会在多个队列对之间分配流量,将更多流量发送到吞吐量更高的队列对上,并主动将流量迁移到拥塞程度更低的路径,通过标准 CCL 网络插件接口实现拥塞感知的消息级和块级负载均衡。它会根据观测到的拥塞和健康状况,在标准可靠连接队列对之间动态分配集合通信消息,并支持端口级和网卡级故障切换,在链路或网卡发生故障后引导集合通信,使分布式训练无需重启作业即可继续。
作者写道,将故障切换、恢复和拥塞感知负载均衡移入 CCL 层,可使这些功能与网络硬件和固件解耦,并可在单平面和多平面网络上工作;他们还补充说,客户无需复杂的路由控制器来选择路径或检测路径变化。该文章日期为 2026 年 10 月 27 日,作者为 OCI 网络运营副总裁兼杰出工程师 Jag Brar、Vincent,以及 OCI 架构师 Joy Ganguly。