NVIDIA crea herramientas para habilitar agentes seguros en toda la pila. La NVIDIA OpenShell Reference Architecture, anunciada hoy, es parte del creciente portafolio de tecnologías de NVIDIA que permite a las organizaciones implementar agentes de forma segura a gran escala. NVIDIA Confidential Computing es la capa de infraestructura que protege los modelos y datos de los que dependen esos agentes mientras se ejecutan.
Hoy, NVIDIA expande esa capa con Confidential Bare Metal, una nueva opción de despliegue con NVIDIA Confidential Computing que permite a los creadores de modelos frontera ejecutar cargas de trabajo sensibles en infraestructura dedicada de terceros manteniendo el control de sus modelos y datos.
NVIDIA está introduciendo nuevos controles de seguridad de plataforma que protegen los datos en tránsito, miden la integridad de la plataforma y aplican restricciones de acceso a nivel de hardware. Estos nuevos controles permiten a los creadores de modelos frontera usar instancias bare-metal para poseer y operar su pila de software a medida, incluido el software de infraestructura de host y plataforma, al operar en infraestructura de computación acelerada de NVIDIA a través de nubes de terceros, neoclouds e infraestructura empresarial.
Lea todos los anuncios de NVIDIA en Europa
NVIDIA Confidential Computing ahora ofrece una arquitectura de seguridad convergente con tres opciones de despliegue:
- Confidential Bare Metal para infraestructura bare-metal
- Confidential Containers para entornos de Kubernetes
- Confidential Virtual Machines para entornos virtualizados
Las organizaciones pueden adaptar el modelo adecuado a sus límites de confianza y requisitos operativos.
NVIDIA Confidential Computing también se expande a los sistemas NVIDIA Grace Blackwell y Rubin y se integrará con NVIDIA DSX OS como arquitectura de referencia para proveedores de nube que construyen fábricas de IA.
Los Creadores de Modelos Aprovechan la Capacidad Global
Confidential Bare Metal ofrece a los proveedores compatibles un camino para atender cargas de trabajo de alto valor que requieren fuertes protecciones de privacidad de modelos y datos. Para los creadores de modelos, el ecosistema en expansión ofrece más opciones geográficas, soberanas y operativas para escalar el entrenamiento y la inferencia en todo el mundo.
Cohere planea integrar Confidential Bare Metal en Cohere Model Vault, utilizando entornos de ejecución confiables de NVIDIA Confidential Computing para extender la seguridad con raíz en el hardware directamente a la GPU, protegiendo los modelos y datos en memoria y a través de las interconexiones durante la ejecución.
«Las empresas confían en Cohere para proporcionar una plataforma segura y confidencial para la inferencia», dijo Phil Blunsom, director de tecnología de Cohere. «Con NVIDIA Confidential Computing en Cohere Model Vault, estamos extendiendo la seguridad con raíz en el hardware directamente a la GPU, protegiendo los datos de los clientes en memoria y a través de las interconexiones durante la ejecución».
Google Cloud está extendiendo el soporte de Confidential Bare Metal a las instancias A4X Max impulsadas por sistemas NVIDIA GB300 NVL72. Estas combinarán computación acelerada NVIDIA no virtualizada con protección criptográfica para los datos de entrenamiento y la propiedad intelectual de los modelos.
«Google Cloud presenta Confidential Bare Metal para proporcionar a los laboratorios de IA entornos de cómputo aislados por hardware, no virtualizados, y protección criptográfica de extremo a extremo. Nuestras instancias A4X, construidas usando NVIDIA Confidential Computing, preservan la privacidad de los datos de los usuarios, protegen la propiedad intelectual de los modelos y ofrecen un rendimiento de servicio de primer nivel», dijo Andrés Lagar-Cavilla, ingeniero distinguido y líder de seguridad de infraestructura de IA en Google Cloud.
Confidential Computing se expande por toda la plataforma NVIDIA
NVIDIA Confidential Computing utiliza aislamiento con raíz en el hardware y atestación criptográfica para ayudar a proteger los modelos y datos durante la ejecución.
El soporte ahora se extiende a NVIDIA Grace Blackwell NVL72 —llevando Confidential Computing a los sistemas de escala de rack NVL72— así como a los sistemas x86 NVIDIA HGX Rubin NVL8 y NVIDIA DGX Rubin NVL8.
CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale y Vultr soportan despliegues de NVIDIA Confidential Computing. Socios globales de sistemas, incluidos Cisco, Dell Technologies, HPE, Lenovo, Supermicro y Bull, soportarán estas capacidades con NVIDIA-Certified Systems.
NVIDIA DSX OS soportará todos los modos de NVIDIA Confidential Computing, brindando a los proveedores de nube una base de software para construir y operar fábricas de IA que soporten cargas de trabajo confidenciales.
Más información sobre Computación Confidencial de NVIDIA.
Lea Todos los Anuncios de NVIDIA en Europa