今日发布， NVIDIA Minerva 是一个AIOps平台，旨在帮助团队更早发现问题并保持AI工厂高效运转。它汇集来自基础设施和AI工作负载的遥测数据，然后应用专门构建的AI模型，将这些数据转化为及时、可操作的洞察。

AI工厂是世界上最复杂的运营之一，大量GPU在高速网络上协同工作，以训练模型并提供AI应用服务。在这种规模下，单个组件性能下降就可能拖慢整个作业。警示信号可能很容易被忽视，例如某块GPU的运行温度高于同类GPU，或某块NVMe驱动器在负载下性能下降。

该平台聚焦于AI工厂产出率，即衡量基础设施通过GPU小时、有效吞吐、集群正常运行时间和token产出所创造的有用工作量。

阅读所有NVIDIA在欧洲的公告

提供AI工厂的动态视图

传统监控工具往往将数据中心划分为彼此独立的视图。网络、计算、站点可靠性和机器学习团队各自看到运营的不同部分。Minerva将这些信号跨NVIDIA GPU、网络、存储、调度器和工作负载连接起来。

借助这些信号，Minerva构建动态知识图谱，以逻辑方式映射基础设施——GPU、SuperNIC、交换机和线缆——以及其上运行的作业。这种上下文有助于运维人员将缓慢的训练作业追溯到影响它的组件，即使是在拥有数十万块GPU的工厂中也是如此。

它使用监督式和无监督式机器学习，每小时分析数十亿个数据点。它学习正常行为，检测此前未见过的异常，预测即将发生的故障，并基于工厂拓扑关联相关事件。它不会把每个症状都发送给运维人员，而是能将事件风暴归并为聚焦于可能根因的单一事件。

Minerva自带原生AI助手，并可连接外部智能体AI工具。这增加了一个以实时遥测数据为基础的自然语言界面。运维人员可以通过对话调查集群健康状况并接收推荐的修复措施。团队可以保留人工介入，以手动实施修复，或通过基础设施应用编程接口和外部系统将Minerva连接到自动化流程。

最大化AI工厂产出率的成果

关联工作负载与基础设施问题的能力，加上其智能体AI能力，有助于简化AI工厂运营。Minerva不会让运维人员面对大量告警，而是将相关问题聚合为单个可操作事项。这使AIOps团队能够从被动维护转向主动维护。所有这些都有助于AI工厂最大化GPU正常运行时间。

Minerva为AI工厂关注的关键指标带来价值：

  • 延长中断间隔时间: Minerva在问题发生前发现它，因此作业能运行更长时间而不出故障。
  • 缩短修复时间: 当事件确实发生时，Minerva能精准定位问题，从而显著加快解决速度。
  • 更深入的洞察: 现代AI基础设施会产生海量数据；Minerva将其过滤，只留下少数真正重要的告警。

IREN是使用Minerva优化其AI工厂的NVIDIA合作伙伴之一。 

“随着我们扩大AI工厂规模，为客户提供最佳服务的关键在于最大化GPU的生产力，”IREN首席技术官Denis Skrinnikoff表示。“NVIDIA Minerva让我们的运营团队能够在一个视图中查看网络、GPU以及其上运行的作业，因此我们可以更多地专注于主动维护，而不是故障排查。这种可见性强化了我们为正在构建的下一代基础设施所采用的运营模式。”

与IREN一同加入的还有Aolani、 Bitdeer AI, IBM、Jio、Lambda、Quake AI和Tesla，它们计划部署Minerva。 

除Dell Technologies外， Lenovo 和Supermicro也将把Minerva纳入其AI工厂运营产品组合。 

了解更多关于 NVIDIA Minerva.

参见 通知 了解软件产品信息。

阅读所有 NVIDIA 在欧洲的公告