←新闻详情

SiliconANGLE更新于 10月25日 20:49

托管服务支撑让 neocloud 的 GPU 算力保持健康——SiliconANGLE

Managed services support keeps neocloud GPU capacity healthy - SiliconANGLE

AI 导读

Alpha Compute 高管 Tom Richer 在 Dell Technologies New York Symposium 上表示,小型 neocloud 难以自建完整 GPU 部署团队,Dell 的托管服务支持是集群上线后保持健康与盈利的关键。Alpha Compute 以 Dell 和 Intel 硬件提供主权与机密计算,其 72 节点 St. Louis 集群采用 Dell 的 Nvidia Blackwell 系统、InfiniBand 网络和直接液冷,并已签署以 Nvidia B300 硬件担保的 3190 万美元无追索贷款协议。

正文 · AI 翻译

随着AI实验室和企业寻求专用图形处理器算力,neocloud正不断涌现,但搭建起一个集群只是开始。对规模较小的提供商而言,硬件合作伙伴提供的托管服务支持,正日益成为决定这些算力在上线后能否保持健康与盈利的关键。

专业AI云正在超大规模云厂商之外开辟出自己的角色,尤其是在主权云要求决定数据存放地点和由谁控制数据的情况下。Alpha Compute Corp.执行副总裁汤姆·里彻(Tom Richer,如图)表示,一家年轻的提供商无法独自为复杂的GPU部署配备每一层的人员。

“你可以把许多不同的提供商拼凑在一起,但一旦出问题,就开始互相推诿了,”他说。“你真正想要的是一个集成解决方案提供商,它能确保成功,帮你完成全部建设工作,然后提供所有……托管服务,让它保持健康运行,并让一切性能符合[服务级别协议]。”

里彻在Dell Technologies New York Symposium上接受了theCUBE Research的戴夫·韦兰特(Dave Vellante)的采访,该采访在SiliconANGLE Media的直播工作室theCUBE上独家播出。他们讨论了托管服务支持、主权AI基础设施以及neocloud融资。(*下方披露。)

托管服务支持支撑起一家主权neocloud

Alpha Compute从数字资产领域起步,不到一年前才进入AI基础设施领域,如今以由Dell Technologies Inc.和Intel Corp.硬件驱动的主权与机密计算为主打。里彻解释说,该公司称之为“设计即主权”的方法从芯片层面开始,为受《欧盟人工智能法案》和《通用数据保护条例》等规则约束的客户将数据保留在境内。

“我们从硬件开始。想象一个技术栈。一直到芯片层面,我们都在创建安全飞地,”里彻说。“我们是Dell的合作伙伴,因此我们既使用Dell技术,也使用Intel技术。”

该技术栈已在生产环境中运行。该公司位于圣路易斯的72节点集群,在一座改造的棕地数据中心内,将来自Dell的Nvidia Blackwell系统与InfiniBand网络和直接液冷相结合,Alpha Compute还公布了增设更多Blackwell集群的计划。Alpha Compute宣布了一项具有约束力的条款清单,涉及一笔3190万美元的无追索贷款安排,以Nvidia B300硬件作为担保。

“不过,这里有点像三位一体。你需要承购方,一个优秀的承购方,”里彻说。“但你也需要那种土地、电力[和]厂房外壳。”

集群一旦上线,Alpha Compute便掌握客户关系。工单、问题修复和硬件退换通过与Dell组成的联合团队处理,而Dell已将AI工厂置于其企业战略的核心。迄今为止,Alpha Compute的客户都是希望由提供商管理操作系统以下一切的AI实验室。里彻表示,企业客户可能会提出更多要求。

“有Dell作为我们的托管服务合作伙伴,我们可以在第二天就覆盖到[操作系统]以上,”里彻说。“Dell及其集成方法的强大之处在于,我们可以覆盖任何层级。”

这种深度的托管服务支持也塑造了里彻对neocloud竞争格局的看法。他解释说,专用型提供商没有“吵闹的邻居”或多租户共享,它们不会取代公有云,而是将承接要求最高、最敏感的GPU工作负载。

“我现在确实看到neocloud正以那种混合方式伴随公有云并与之融合,成为企业的选择,”里彻说。“对于那些要求极高的超级智能工作负载,企业可以把这些敏感、密集的高性能计算工作负载发送到neocloud,让它们协同工作。”

以下是完整的视频采访,属于SiliconANGLE和theCUBE对Dell Technologies New York Symposium报道的一部分:

(*披露:theCUBE是Dell Technologies New York Symposium的付费媒体合作伙伴。无论是theCUBE活动报道的赞助商Dell,还是其他赞助商,均不对theCUBE或SiliconANGLE的内容拥有编辑控制权。)

图片:SiliconANGLE

来源

SiliconANGLE