Die allgemeine Verfügbarkeit der Instanzen kommt nächsten Monat, mit einer geplanten Ausweitung der Verfügbarkeit auf Europa — und bringt Cloud-Kunden eine integrierte Plattform für Training, Inferenz und groß angelegtes bestärkendes Lernen.
Die A5X-Instanzen vereinen NVIDIA Vera Rubin NVL72, NVIDIA ConnectX-9 SuperNICs, das Google Cloud Virgo Network und die fortschrittliche Flüssigkühlungstechnologie der vierten Generation von Google Cloud für anspruchsvolle agentische Inferenz- und Bestärkendes-Lernen-Workloads im großen Maßstab. Google Cloud plant, seine Vera-Rubin-basierte Infrastruktur auf bis zu 960,000 Rubin-GPUs an mehreren Standorten zu skalieren.
Ineffable Intelligence, ein in London ansässiges Technologieunternehmen, gegründet von AlphaGo-Schöpfer David Silver, war der erste Kunde mit Zugriff auf A5X. Ineffable nutzt die Plattform, um groß angelegtes bestärkendes Lernen voranzutreiben und „Superlearner“-Systeme zu gestalten, die kontinuierlich aus Erfahrung lernen.
Alle NVIDIA-Ankündigungen für Europa lesen
Lernen durch Interaktion erfordert einen kontinuierlichen Zyklus aus der Generierung von Erfahrung, der Bewertung von Ergebnissen und der Aktualisierung von Modellen, was eine Infrastruktur erfordert, die den gesamten Prozess im großen Maßstab unterstützen kann. A5X bringt Vera Rubin als integriertes System in die AI Hypercomputer-Umgebung von Google Cloud ein und kombiniert Rechenleistung, Netzwerk und Speicher, um erfahrungsbasiertes Lernen im großen Maßstab zu unterstützen.
„Wir bauen Superlearner, die sich durch ihre eigene Erfahrung kontinuierlich verbessern“, sagte David Silver, Gründer und CEO von Ineffable Intelligence. „Das erfordert sowohl erhebliche Rechenleistung als auch eine enge Verbindung zwischen der Generierung von Erfahrung und dem Training darauf, sodass jede Verbesserung des Agenten schnell seine nächste Erfahrung prägen kann. Die Kombination aus Rechenleistung und Hochbreitband-Konnektivität von Vera Rubin — zwischen der Vera-CPU und den Rubin-GPUs sowie zwischen den Rubin-GPUs innerhalb des Racks — ermöglicht es uns, Maßstab und Ehrgeiz unserer Bestärkendes-Lernen-Forschung weiter voranzutreiben.“
WPP, ein in London ansässiges Marketing- und Kommunikationsunternehmen, hat seine Referenzarchitektur für kreative Agenten ebenfalls auf NVIDIA Vera Rubin-basierten A5X-Instanzen demonstriert, unter Verwendung von NVIDIA Nemotron-Modellen und NVIDIA OpenShell, einem Teil der NVIDIA OpenShell Reference Architecture für sichere KI-Agenten.
Die Agenten wandeln Konversationsanfragen in mehrstufige kreative Workflows um, etwa Videogenerierung, Hochskalierung und Umgestaltung, mit menschlicher Freigabe vor der Ausführung. OpenShell stellt kontrollierte Sandboxes für die Agentenausführung bereit und hilft, den Zugriff auf sensible Markenressourcen und Kreativwerkzeuge zu kontrollieren. In WPPs ersten Tests liefen Workloads, die typischerweise einen Multi-Node-Cluster erforderten, auf einer einzelnen A5X-Instanz.
Da Organisationen agentische Systeme einsetzen, müssen sie die proprietären Modelle und sensiblen Daten schützen, die diese Systeme antreiben — selbst wenn sie auf Infrastruktur laufen, die ihnen nicht gehört.
Google Cloud wird zu den ersten Cloud-Anbietern gehören, die NVIDIA Confidential Computing in Rack-Größe auf Bare-Metal-Instanzen wie den A4X Max-Instanzen anbieten, die von NVIDIA GB300 NVL72 angetrieben werden. Darüber hinaus führt Google Cloud Confidential Computing allgemein verfügbar auf G4-VMs ein, die von NVIDIA RTX PRO 6000 Blackwell Server Edition GPUs angetrieben werden, und bietet eine flexible Plattform für vertrauliche Inferenz und Feinabstimmung. Kunden wie Vertebrae, Polaris Cloud und Confidential Core AI nutzen Confidential G4 für Konversations-Privatsphäre, überprüfbare Agentenausführung und richtlinienkonforme Unternehmensintelligenz.
Um energieeffiziente Bereitstellungen im großen Maßstab zu unterstützen, erkunden Google Cloud und NVIDIA NVIDIA DSX MaxLPS -Funktionen für die Vera Rubin-basierte Infrastruktur, um die Leistung pro Watt zu optimieren und die Kapazität innerhalb der verfügbaren Rechenzentrum-Strombudgets zu erweitern.
Erfahren Sie mehr über NVIDIA Vera Rubin und Google Cloud A5X-Instanzen.
Alle NVIDIA-Ankündigungen für Europa lesen