NVIDIA、AIファクトリー向けのエンドツーエンドの可観測性を実現するMinervaを発表

本日リリースされたNVIDIA Minervaは、チームが問題を早期に発見し、AIファクトリを生産的に維持するためのAIOpsプラットフォームです。これは、インフラとAIワークロードから得られるテレメトリを統合し、特別に構築されたAIモデルを適用して、そのデータをタイムリーで実用的な洞察へと変換します。

AI工場は、世界で最も複雑な事業の一つであり、多数のGPUが高速ネットワーク上で働き、モデルを訓練しAIアプリケーションを提供しています。その規模において、単一の劣化したコンポーネントが全作業を遅らせる可能性があります。GPUが他のGPUよりも高温になったり、負荷下でNVMeドライブの性能が低下したりするなど、警告信号は見落とされやすいものです。

このプラットフォームは、AI工場の生産性に焦点を当てています。これは、GPUの使用時間、スループット、クラスタの稼働時間、およびトークン生成を通じて実際に生み出される有効な作業の量を示す指標です。

AI工場のダイナミックな視点を提供する

従来の監視ツールは、データセンターを別々の視点に分けることが多い。ネットワーク、コンピューティング、サイトの信頼性、機械学習のチームがそれぞれ異なる部分を見ている。Minervaは、NVIDIA GPU、ネットワーク、ストレージ、スケジューラ、ワークロードを通じてこれらの信号を接続する。

これらの信号により、ミネルヴァは動的な知識グラフを構築し、インフラストラクチャーであるGPU、SuperNIC、スイッチ、ケーブル、およびそれら上で実行される作業を論理的にマッピングする。このコンテキストにより、オペレーターは数十万台のGPUがある工場であっても、遅いトレーニング作業を影響を与えるコンポーネントにたどり着くことができる。

1時間あたり数十億のデータポイントを、教師あり・教師なしの機械学習を用いて分析する。正常な動作を学習し、以前には見られなかった異常を検出し、新たに発生する故障を予測し、工場のトポロジーに基づいて関連するイベントを関連付ける。すべての症状をオペレーターに送るのではなく、イベントの嵐を、おそらくの根本原因を持つ集中的な事故にまとめることができる。

Minervaは、ネイティブのAIアシスタントを備え、外部のエージェンタルAIツールと接続します。これにより、ライブテレメトリーに基づいた自然言語インターフェースが実現されます。オペレーターはクラスターの状態を調査し、対話を通じて推奨される修正方法を受け取ることができます。チームは、手動で修正を実施するための人を連携させたり、インフラストラクチャのアプリケーションプログラミングインターフェースや外部システムを通じてMinervaと自動化を接続したりすることができます。

AIファクトリーの生産性を最大限に高める結果

ワークロードとインフラ問題を関連付ける能力、およびエージェント型AIの機能により、AI工場の運用が簡素化されます。大量のアラートに対処するのではなく、ミネルバは関連する問題を一つの実行可能な項目にまとめます。これにより、AIOpsチームは反応的なメンテナンスから能動的なメンテナンスへと移行できます。そして、これらすべてがAI工場がGPUの稼働率を最大化するのに役立ちます。

ミネルヴァは、AI工場が重点を置く主要指標において価値を提供します：

• 中断間の時間が長くなる：ミネルヴァは問題が起こる前に気づくため、作業が問題なく長く続けられる。
• 修理に要する時間の短縮：問題が発生した場合、ミネルヴァは原因を特定し、大幅に短い時間で解決につながります。
• より深い洞察: 現代のAIインフラは大量のデータを生成するが、ミネルバーはそれをフィルタリングして、実際に重要な数件のアラートだけを残す。

IRENは、Minervaを利用して自社のAIファクトリを最適化しているNVIDIAパートナーの一つです。

「私たちがAI工場を拡大するにつれて、顧客に最高のサービスを提供するための鍵は、GPUの生産性を最大限に高めることです」とIRENのチーフテクノロジーオフィサーであるデニス・スクリニコフは述べました。「NVIDIA Minervaにより、私たちの運営チームはネットワーク全体、GPU、そしてそれらで実行される作業を一つの視点で把握できるようになります。そのため、トラブルシューティングよりも積極的なメンテナンスに焦点を当てることができます。この可視性は、今後構築するインフラの運営モデルを強化します。」

IREN、Aolani、Bitdeer AI、IBM、Jio、Lambda、Quake AI、TeslaがMinervaの導入を計画している。

Dell Technologiesに加えて、LenovoおよびSupermicroは、Minervaを自社のAIファクトリービジネスのポートフォリオの一環として提供する予定です。

についてさらに知りたい場合はNVIDIA Minervaをご覧ください。

参照 通知 ソフトウェア製品情報に関するもの。