NVIDIA präsentiert Minerva – um End-to-End-Beobachtbarkeit für KI-Fabriken zu ermöglichen

Heute veröffentlicht wurde NVIDIA Minerva – eine AIOps-Plattform, die dazu dient, Teams dabei zu helfen, Probleme früher zu erkennen und die KI-Fabriken produktiv zu halten. Sie vereint Telemetriedaten aus Infrastruktur und KI-Arbeitslasten und nutzt anschließend speziell entwickelte KI-Modelle, um diese Daten in zeitnahe, handlungsrelevante Erkenntnisse zu verwandeln.

AI-Fabriken gehören zu den komplexesten Operationen der Welt, bei denen riesige Anzahl an GPUs über Hochgeschwindigkeitsnetzwerke eingesetzt werden, um Modelle zu trainieren und AI-Anwendungen zu bedienen. In dieser Größenordnung kann ein einzelnes verschlissenes Komponenten das gesamte Projekt verlangsamen. Die Warnsignale können leicht übersehen werden, wie zum Beispiel eine GPU, die heißer ist als ihre Mitbewerber, oder eine NVMe-Festplatte, die unter Last ihre Leistung verliert.

Die Plattform konzentriert sich auf den AI-Fabrikertausch, eine Messgröße für die nützliche Arbeit, die die Infrastruktur durch GPU-Stunden, Goodput, Cluster-Verfügbarkeit und Tokenproduktion erbringt.

Die Bereitstellung einer dynamischen Ansicht einer KI-Fabrik

Traditionelle Überwachungstools teilen oft das Data Center in unterschiedliche Ansichten auf. Die Teams für Netzwerke, Rechenleistung, Standortverfügbarkeit und maschinelles Lernen sehen jeweils einen anderen Teil der Operation. Minerva verbindet diese Signale über NVIDIA-GPUs, Netzwerke, Speicher, Scheduler und Workloads.

Mit diesen Signalen erstellt Minerva ein dynamisches Wissensgraph, der logisch die Infrastruktur – GPUs, SuperNICs, Switches und Kabel – sowie die auf ihr laufenden Aufgaben abbildet. Dieser Kontext ermöglicht es den Operatoren, eine langsame Trainingsaufgabe bis zum betreffenden Komponenten zu verfolgen, selbst in einer Fabrik mit Hunderttausenden von GPUs.

Es analysiert jährlich Milliarden von Datenpunkten unter Verwendung überwachter und unüberwachter maschineller Lernverfahren. Es lernt normale Verhaltensweisen kennen, erkennt bisher unbekannte Anomalien, vorhersagt auftretende Fehler und verbindet verwandte Ereignisse aufgrund der Topologie der Fabrik. Anstatt jedes Symptom an einen Operator zu senden, kann es einen Ereignissturm in einen gezielten Vorfall mit einer wahrscheinlichen Wurzelerkrankung umwandeln.

Minerva verfügt über einen nativen AI-Assistenten und verbindet sich mit externen agentischen AI-Tools. Dies erweitert die Anwendung um eine natürliche Sprachoberfläche, die auf Live-Telemetrie basiert. Die Operatoren können den Zustand des Clusters untersuchen und durch Konversation empfohlene Maßnahmen erhalten. Die Teams können eine Person beauftigen, die Lösungen manuell umzusetzen, oder Minerva mit Automatisierung über Infrastrukturdatentransfer-Programmierschnittstellen und externe Systeme verbinden.

Ergebnisse, die den Output der AI-Fabrik maximieren

Die Fähigkeit, Arbeitslast und Infrastrukturprobleme in Zusammenhang zu bringen, sowie die agentischen AI-Funktionen helfen dabei, die Betriebsabläufe von KI-Werken zu vereinfachen. Anstatt mit einer Flut an Warnungen zu kämpfen, sammelt Minerva verwandte Probleme zu einem einzigen Handlungspunkt zusammen. Dadurch können AIOps-Teams von einer reaktiven zur proaktiven Wartung übergehen. Und all das trägt dazu bei, dass KI-Werke die Verfügbarkeit der GPU maximieren können.

Minerva liefert Wert für die wichtigsten Metriken, auf die die AI-Fabriken achten:

• Längere Zeit zwischen Unterbrechungen: Minerva erkennt Probleme noch vor dem Eintreten, sodass die Aufgaben länger ohne Zwischenfälle durchgehen.
• Bessere Reparierzeit: Wenn ein Problem tatsächlich auftritt, identifiziert Minerva das Problem sofort, was eine deutlich schnellere Lösung ermöglicht.
• Größere Einsicht: Die moderne AI-Infrastruktur erzeugt eine Flut an Daten; Minerva filtriert sie aus und lässt nur die wenigen Warnungen übrig, die wirklich wichtig sind.

IREN gehört zu den NVIDIA-Partnern, die Minerva verwenden, um ihre KI-Fabriken zu optimieren.

„Wenn wir unsere KI-Fabriken ausbauen, ist es entscheidend, die Produktivität unserer GPUs zu maximieren, um den bestmöglichen Service für unsere Kunden zu bieten“, sagte Denis Skrinnikoff, Chief Technology Officer von IREN. „NVIDIA Minerva ermöglicht unserem Betriebsteam eine einheitliche Sicht auf das Netzwerk, die GPUs und die Aufgaben, die auf ihnen ausgeführt werden, sodass wir uns stärker auf proaktive Wartung als auf Fehlersuche konzentrieren können. Diese Sichtweise stärkt unser Betriebsmodell für die Infrastruktur, die wir im nächsten Schritt aufbauen werden.“

Mit IREN, Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI und Tesla planen, Minerva einzusetzen.

Neben Dell Technologies werden Lenovo und Supermicro Minerva als Teil ihrer AI-Fabrik-Aufgabenportfolios anbieten.

Lernen Sie mehr über NVIDIA Minerva .

Sehen Sie Benachrichtigung bezüglich der Informationen über das Softwareprodukt.