La disponibilité générale des instances arrive le mois prochain, avec une extension planifiée de la disponibilité en Europe — offrant une plateforme intégrée pour l'entraînement, l'inférence et l'apprentissage par renforcement à grande échelle aux clients du cloud.
Les instances A5X réunissent NVIDIA Vera Rubin NVL72, les NVIDIA ConnectX-9 SuperNICs, Google Cloud Virgo Network et la technologie de refroidissement liquide avancé de quatrième génération de Google Cloud pour des charges de travail exigeantes d'inférence agentique et d'apprentissage par renforcement à grande échelle. Google Cloud prévoit de faire évoluer son infrastructure basée sur Vera Rubin jusqu'à 960,000 GPU Rubin sur plusieurs sites.
Ineffable Intelligence, une entreprise technologique basée à Londres fondée par David Silver, créateur d'AlphaGo, a été le premier client à accéder à A5X. Ineffable utilise la plateforme pour faire progresser l'apprentissage par renforcement à grande échelle et concevoir des systèmes « superlearners » qui apprennent en continu à partir de l'expérience.
Lire toutes les annonces de NVIDIA en Europe
L'apprentissage par interaction nécessite un cycle continu de génération d'expérience, d'évaluation des résultats et de mise à jour des modèles, ce qui exige une infrastructure capable de soutenir l'ensemble du processus à grande échelle. A5X intègre Vera Rubin dans l'AI Hypercomputer de Google Cloud en tant que système intégré, combinant calcul, réseau et stockage pour soutenir l'apprentissage fondé sur l'expérience à grande échelle.
« Nous construisons des superlearners qui s'améliorent continuellement grâce à leur propre expérience », a déclaré David Silver, fondateur et PDG d'Ineffable Intelligence. « Cela exige à la fois une puissance de calcul substantielle et une connexion étroite entre la génération d'expérience et l'entraînement sur celle-ci, afin que chaque amélioration de l'agent puisse rapidement façonner son expérience suivante. La combinaison de performances de calcul et de connectivité à large bande passante de Vera Rubin, entre le CPU Vera et les GPU Rubin ainsi qu'entre les GPU Rubin au sein du rack, nous permet de repousser davantage l'échelle et l'ambition de nos recherches en apprentissage par renforcement. »
WPP, une entreprise de marketing et de communication basée à Londres, a également démontré son architecture de référence d'agents créatifs sur des instances A5X basées sur NVIDIA Vera Rubin, en utilisant les modèles NVIDIA Nemotron et NVIDIA OpenShell, qui fait partie de l' NVIDIA OpenShell Reference Architecture pour des agents d'IA sûrs.
Les agents transforment des requêtes conversationnelles en flux de travail créatifs en plusieurs étapes, tels que la génération vidéo, l'agrandissement de la résolution et le restylage, avec une approbation humaine avant l'exécution. OpenShell fournit des environnements de test contrôlés pour l'exécution des agents, aidant à contrôler l'accès aux actifs de marque sensibles et aux outils créatifs. Lors des premiers tests de WPP, des charges de travail nécessitant habituellement un cluster multi-nœuds ont fonctionné sur une seule instance A5X.
Alors que les organisations déploient des systèmes agentiques, elles doivent protéger les modèles propriétaires et les données sensibles qui alimentent ces systèmes — même lorsqu'ils fonctionnent sur une infrastructure qu'elles ne possèdent pas.
Google Cloud sera parmi les premiers fournisseurs de cloud à proposer NVIDIA Confidential Computing à l'échelle du rack sur des instances bare metal telles que les instances A4X Max propulsées par NVIDIA GB300 NVL72. De plus, Google Cloud rend Confidential Computing généralement disponible sur les VM G4 propulsées par les GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, offrant une plateforme flexible pour l'inférence confidentielle et le fine-tuning. Des clients dont Vertebrae, Polaris Cloud et Confidential Core AI utilisent Confidential G4 pour la confidentialité conversationnelle, l'exécution vérifiable des agents et l'intelligence d'entreprise gouvernée par des politiques.
Pour soutenir un déploiement économe en énergie à grande échelle, Google Cloud et NVIDIA explorent les capacités NVIDIA DSX MaxLPS pour l'infrastructure basée sur Vera Rubin afin d'aider à optimiser les performances par watt et d'étendre la capacité dans les limites des budgets d'alimentation disponibles des centres de données.
En savoir plus sur NVIDIA Vera Rubin et les instances Google Cloud A5X.
Lire toutes les annonces de NVIDIA en Europe