La disponibilidad general de las instancias llegará el próximo mes, con una expansión planificada de la disponibilidad a Europa, llevando una plataforma integrada para entrenamiento, inferencia y aprendizaje por refuerzo a gran escala a los clientes de la nube.
Las instancias A5X combinan NVIDIA Vera Rubin NVL72, las SuperNIC NVIDIA ConnectX-9, Google Cloud Virgo Network y la tecnología de refrigeración líquida avanzada de cuarta generación de Google Cloud para cargas de trabajo exigentes de inferencia agéntica y aprendizaje por refuerzo a gran escala. Google Cloud planea escalar su infraestructura basada en Vera Rubin hasta 960,000 GPU Rubin en múltiples sitios.
Ineffable Intelligence, una empresa tecnológica con sede en Londres fundada por el creador de AlphaGo, David Silver, fue el primer cliente en acceder a A5X. Ineffable está usando la plataforma para avanzar en el aprendizaje por refuerzo a gran escala y dar forma a sistemas «superlearner» que aprenden continuamente de la experiencia.
Lea todos los anuncios de NVIDIA en Europa
El aprendizaje mediante la interacción requiere un ciclo continuo de generación de experiencia, evaluación de resultados y actualización de modelos, lo que exige una infraestructura que pueda soportar todo el proceso a gran escala. A5X incorpora Vera Rubin al AI Hypercomputer de Google Cloud como un sistema integrado, que combina cómputo, redes y almacenamiento para soportar el aprendizaje impulsado por la experiencia a gran escala.
«Estamos construyendo superlearners que mejoran continuamente a través de su propia experiencia», dijo David Silver, fundador y CEO de Ineffable Intelligence. «Eso exige tanto un cómputo sustancial como una conexión estrecha entre generar experiencia y entrenar con ella, de modo que cada mejora del agente pueda dar forma rápidamente a su siguiente experiencia. La combinación de rendimiento de cómputo y conectividad de gran ancho de banda de Vera Rubin, entre la Vera CPU y las GPU Rubin, y entre las GPU Rubin dentro del rack, nos permite impulsar aún más la escala y la ambición de nuestra investigación en aprendizaje por refuerzo».
WPP, una empresa de marketing y comunicaciones con sede en Londres, también ha demostrado su arquitectura de referencia de agentes creativos en instancias A5X basadas en NVIDIA Vera Rubin utilizando modelos NVIDIA Nemotron y NVIDIA OpenShell, parte de la Arquitectura de referencia NVIDIA OpenShell para agentes de IA seguros.
Los agentes convierten solicitudes conversacionales en flujos de trabajo creativos de varios pasos, como generación de video, escalado y cambio de estilo, con aprobación humana antes de la ejecución. OpenShell proporciona sandboxes gobernados para la ejecución de agentes, ayudando a controlar el acceso a activos de marca y herramientas creativas sensibles. En las pruebas iniciales de WPP, cargas de trabajo que típicamente requerían un clúster multinodo se ejecutaron en una sola instancia A5X.
A medida que las organizaciones despliegan sistemas agénticos, necesitan proteger los modelos propietarios y los datos sensibles que impulsan estos sistemas, incluso cuando se ejecutan en infraestructura que no les pertenece.
Google Cloud estará entre los primeros proveedores de nube en ofrecer NVIDIA Confidential Computing a escala de rack en instancias bare metal como las instancias A4X Max impulsadas por NVIDIA GB300 NVL72. Además, Google Cloud está haciendo que Confidential Computing esté generalmente disponible en las VM G4 impulsadas por GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, ofreciendo una plataforma flexible para inferencia confidencial y ajuste fino. Clientes incluyendo Vertebrae, Polaris Cloud y Confidential Core AI están usando Confidential G4 para privacidad conversacional, ejecución de agentes verificable e inteligencia empresarial gobernada por políticas.
Para soportar despliegues energéticamente eficientes a gran escala, Google Cloud y NVIDIA están explorando las capacidades de NVIDIA DSX MaxLPS para la infraestructura basada en Vera Rubin, a fin de ayudar a optimizar el rendimiento por vatio y expandir la capacidad dentro de los presupuestos de energía disponibles de los centros de datos.
Aprenda más sobre NVIDIA Vera Rubin y las instancias A5X de Google Cloud.
Lea todos los anuncios de NVIDIA en Europa