NVIDIA développe des outils pour permettre des agents sûrs sur toute la pile. L'architecture de référence NVIDIA OpenShell, annoncée aujourd'hui, fait partie du portefeuille croissant de technologies de NVIDIA qui permet aux organisations de déployer des agents à grande échelle en toute sécurité. NVIDIA Confidential Computing est la couche d'infrastructure qui protège les modèles et les données dont ces agents dépendent pendant leur exécution.
Aujourd'hui, NVIDIA étend cette couche avec Confidential Bare Metal, une nouvelle option de déploiement avec NVIDIA Confidential Computing qui permet aux créateurs de modèles de pointe d'exécuter des charges de travail sensibles sur une infrastructure tierce dédiée tout en conservant le contrôle de leurs modèles et de leurs données.
NVIDIA introduit de nouveaux contrôles de sécurité de plateforme qui protègent les données en transit, mesurent l'intégrité de la plateforme et appliquent des restrictions d'accès au niveau matériel. Ces nouveaux contrôles permettent aux créateurs de modèles de pointe d'utiliser des instances bare metal pour posséder et exploiter leur pile logicielle sur mesure, y compris les logiciels d'infrastructure d'hôte et de plateforme, lorsqu'ils opèrent sur une infrastructure de calcul accéléré de NVIDIA dans des clouds tiers, des neoclouds et des infrastructures d'entreprise.
Lire toutes les annonces de NVIDIA en Europe
NVIDIA Confidential Computing propose désormais une architecture de sécurité convergée avec trois options de déploiement :
- Confidential Bare Metal pour l'infrastructure bare metal
- Confidential Containers pour les environnements Kubernetes
- Confidential Virtual Machines pour les environnements virtualisés
Les organisations peuvent associer le bon modèle à leurs limites de confiance et à leurs exigences opérationnelles.
NVIDIA Confidential Computing s'étend également aux systèmes NVIDIA Grace Blackwell et Rubin et s'intégrera à NVIDIA DSX OS en tant qu'architecture de référence pour les fournisseurs de cloud qui construisent des usines d'IA.
Les créateurs de modèles exploitent la capacité mondiale
Confidential Bare Metal offre aux fournisseurs pris en charge un chemin pour servir des charges de travail à forte valeur nécessitant de solides protections de la confidentialité des modèles et des données. Pour les créateurs de modèles, l'écosystème en expansion offre davantage d'options géographiques, souveraines et opérationnelles pour passer à l'échelle mondiale en matière d'entraînement et d'inférence.
Cohere prévoit d'intégrer Confidential Bare Metal dans Cohere Model Vault, en utilisant les environnements d'exécution de confiance de NVIDIA Confidential Computing pour étendre la sécurité ancrée dans le matériel directement au GPU — protégeant les modèles et les données en mémoire et sur les interconnexions pendant l'exécution.
« Les entreprises font confiance à Cohere pour fournir une plateforme d'inférence sécurisée et confidentielle », a déclaré Phil Blunsom, directeur technologique de Cohere. « Avec NVIDIA Confidential Computing dans Cohere Model Vault, nous étendons la sécurité ancrée dans le matériel directement au GPU, protégeant les données des clients en mémoire et sur les interconnexions pendant l'exécution. »
Google Cloud étend la prise en charge de Confidential Bare Metal aux instances A4X Max propulsées par les systèmes NVIDIA GB300 NVL72. Celles-ci combineront le calcul accéléré NVIDIA non virtualisé avec une protection cryptographique pour les données d'entraînement et la propriété intellectuelle des modèles.
« Google Cloud introduit Confidential Bare Metal pour fournir aux laboratoires d'IA des environnements de calcul isolés matériellement, non virtualisés, avec une protection cryptographique de bout en bout. Nos instances A4X, construites à l'aide de NVIDIA Confidential Computing, préservent la confidentialité des données des utilisateurs, protègent la propriété intellectuelle des modèles et offrent des performances de service de premier plan », a déclaré Andrés Lagar-Cavilla, ingénieur distingué et responsable de la sécurité de l'infrastructure IA chez Google Cloud.
Confidential Computing s'étend sur toute la plateforme NVIDIA
NVIDIA Confidential Computing utilise l'isolation ancrée dans le matériel et l'attestation cryptographique pour aider à protéger les modèles et les données pendant l'exécution.
La prise en charge s'étend désormais à NVIDIA Grace Blackwell NVL72 — apportant Confidential Computing aux systèmes NVL72 à l'échelle d'un rack — ainsi qu'aux systèmes x86 NVIDIA HGX Rubin NVL8 et NVIDIA DGX Rubin NVL8.
CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale et Vultr prennent en charge les déploiements de NVIDIA Confidential Computing. Les partenaires mondiaux de systèmes, notamment Cisco, Dell Technologies, HPE, Lenovo, Supermicro et Bull, prendront en charge ces capacités avec des systèmes NVIDIA-Certified.
NVIDIA DSX OS prendra en charge tous les modes de NVIDIA Confidential Computing, offrant aux fournisseurs de cloud une base logicielle pour construire et exploiter des usines d'IA prenant en charge les charges de travail confidentielles.
En savoir plus sur NVIDIA Confidential Computing.
Lire toutes les annonces de NVIDIA en Europe