AMD 与 Cloudera 谈 AI 基础设施的合理配置
AMD and Cloudera on right-sizing infrastructure - SiliconANGLE
AMD 的 Jeremy Girven 在 EVOLVE26 上表示,企业部署 AI 时应按业务需求合理配置基础设施:若终端用户能接受 30 秒响应,可选更便宜的硬件;若要求即时响应,则需更前沿的硬件。AMD 与 Cloudera 的合作包括持续验证 AMD 产品在 Cloudera 部署中的适配性,且目前 AI 方案仍高度定制化。Girven 还提醒企业部署后要持续监控利用率并调整容量,同时留意网络出口费等隐性成本。
正文 · AI 翻译
合理配置基础设施,首先要理解企业的技术需要达成什么目标。
对于将 AI 投入生产的企业而言,成本压力正日益凸显出将技术性能与业务价值联系起来的必要性。AMD 的 AWS 技术赋能经理 Jeremy Girven 表示,仅凭性能数据并不能让客户了解一项投资对他们的业务意味着什么。
“客户、也就是你的最终用户,等 30 秒才得到响应是可以接受的吗,还是他们需要立即响应?”他说,“如果他们能等 30 秒,你就可以选用更便宜的硬件。如果他们需要立即响应,那你可能就得采用更前沿的硬件。”
Girven 在 EVOLVE26 上接受了 theCUBE 主持人 Rebecca Knight 的采访,该采访在 SiliconANGLE Media 的直播工作室 theCUBE 上独家播出。他们讨论了基础设施的合理配置、AMD 与 Cloudera 的合作,以及企业 AI 部署的经济性。(* 下方披露。)
合理配置基础设施需要持续关注
AMD 与 Cloudera 的合作包括持续验证 AMD 产品在 Cloudera 部署中的适配性。Girven 解释说,客户的预算顾虑是这些基础设施讨论的核心部分。
“我想说,如果你不具备相关技能,就引入像 Cloudera 这样的合作伙伴,[或]与 AMD 合作,我们可以帮助设计满足需求的解决方案,”他说,“在 AI 方面,我们还没有到拥有千篇一律的解决方案的阶段……目前,这在很大程度上是为每个客户量身定制的。”
Girven 解释说,部署之后,合理配置基础设施依然重要。企业应持续监控利用率并反复调整容量,同时考虑其工作负载在何处运行。
“我想说,绝对不要只关注 AI 技术本身,还要记住,网络费用之类的东西会叠加在上面,”他说,“我见过许多客户被他们甚至没有计算过的网络出口费坑了。”
以下是完整的视频采访,这是 SiliconANGLE 和 theCUBE 对 EVOLVE26 报道的一部分:
(* 披露:theCUBE 是 EVOLVE26 的付费媒体合作伙伴。无论是 theCUBE 活动报道的赞助商 Cloudera,还是其他赞助商,都不对 theCUBE 或 SiliconANGLE 上的内容拥有编辑控制权。)
图片:SiliconANGLE