NVIDIA 推出 Minerva，为人工智能工厂提供端到端可观测性

今天推出的 NVIDIA Minerva 是一个 AIOps 平台，旨在帮助团队更早发现问题并保持人工智能系统的高效运行。该平台整合了基础设施和人工智能工作负载的遥测数据，然后运用专门设计的 AI 模型将这些数据转化为及时且可操作的洞察信息。

AI工厂是世界上最为复杂的运营模式之一，大量 GPU 通过高速网络协同工作，以训练模型并支持 AI 应用。在如此大的规模下，任何一个性能下降的组件都可能导致整个任务变得缓慢。一些警示信号很容易被忽视，比如某个 GPU 的温度比其他 GPU 更高，或者某个 NVMe 硬盘在负载下性能下降。

该平台专注于 AI 工厂的产量，这是通过 GPU 使用时间、吞吐量、集群运行时间以及代币生产来衡量基础设施所产生的有效工作量的指标。

呈现人工智能工厂的动态视图

传统的监控工具通常将数据中心划分为不同的视图。网络、计算、站点可靠性以及机器学习团队各自关注不同的运营部分。Minerva则通过 NVIDIA GPU、网络、存储、调度器和工作负载来连接这些信号。

通过这些信号，Minerva 构建了一个动态知识图，能够逻辑地映射基础设施——包括 GPU、SuperNIC、交换机和电缆——以及运行在其中的任务。这种上下文使得操作员能够将缓慢训练的任务追溯到影响该任务的组件，甚至是在拥有数十万个 GPU 的工厂中也是如此。

它每小时可分析数十亿个数据点，利用有监督和无监督机器学习技术实现功能。它能学习正常行为模式，识别之前未出现的异常现象，预测即将发生的故障，并依据工厂的拓扑结构关联相关事件。与其将所有症状都发送给操作员，不如将事件群整合为具有明确根本原因的重点事故。

Minerva 配备了原生 AI 助手，并能与外部智能工具连接。这提供了基于实时遥测数据的自然语言界面。操作员可以通过对话来检查集群状态并获取建议的修复方案。团队可以通知相关人员手动实施修复措施，或者通过基础设施应用程序编程接口及外部系统将 Minerva 与自动化系统相连。

能最大化人工智能工厂产出率的成果

能够将工作负载和基础设施问题与智能体人工智能功能相结合，有助于简化人工智能工厂的运营。Minerva 会将相关问题整合为单一可操作任务，从而无需处理大量警报。这使得 AIOps 团队能够从被动维护转变为主动维护。所有这些都有助于人工智能工厂最大化 GPU 的运行时间。

Minerva 为人工智能工厂关注的关键指标提供了价值：

• 中断之间的时间更长：Minerva能在问题发生之前发现它，因此任务能更长时间地运行且不会出现问题。
• 更快的修复时间：当问题发生时，Minerva能够迅速定位问题根源，从而大大缩短解决时间。
• 更深刻的洞察力: 现代人工智能基础设施会生成大量数据；Minerva 则对数据进行筛选，仅保留那些真正重要的警报。

IREN是使用 Minerva 来优化其人工智能工厂的 NVIDIA 合作伙伴之一。

“随着我们扩大人工智能工厂的规模，为客户提供最佳服务的关键在于最大化 GPU 的生产力，”IREN 首席技术官 Denis Skrinnikoff 说。“NVIDIA Minerva 让我们的运营团队能够全面了解网络、GPU 以及运行在它们上的任务，因此我们更专注于主动维护，而非故障排查。这种可见性有助于强化我们未来构建的基础架构的运营模式。”

与 IREN、Aolani、Bitdeer AI、IBM、Jio、Lambda、Quake AI和Tesla计划部署Minerva。

除了戴尔科技之外，联想和 Supermicro 也将将 Minerva 作为其人工智能工厂业务组合的一部分提供。

了解更多关于NVIDIA Minerva的信息。

查看 通知关于软件产品信息。