NVIDIA baut Tools, um sichere Agenten über den gesamten Stack hinwegzu ermöglichen. Die NVIDIA OpenShell Reference Architecture, die heute angekündigt wurde, ist Teil des wachsenden Portfolios von NVIDIA-Technologien, das es Organisationen ermöglicht, Agenten sicher im großen Maßstab einzusetzen. NVIDIA Confidential Computing ist die Infrastrukturebene, die die Modelle und Daten, von denen diese Agenten abhängen, während der Ausführung schützt.
Heute erweitert NVIDIA diese Ebene mit Confidential Bare Metal, einer neuen Bereitstellungsoption mit NVIDIA Confidential Computing, die es Frontier-Modell-Erstellern ermöglicht, sensible Workloads auf dedizierter Drittanbieter-Infrastruktur auszuführen und dabei die Kontrolle über ihre Modelle und Daten zu behalten.
NVIDIA führt neue Plattform-Sicherheitskontrollen ein, die Daten bei der Übertragung schützen, die Plattformintegrität messen und Zugriffsbeschränkungen auf Hardware-Ebene durchsetzen. Diese neuen Kontrollen ermöglichen es Frontier-Modell-Erstellern, Bare-Metal-Instanzen zu nutzen, um ihren maßgeschneiderten Software-Stack zu besitzen und zu betreiben, einschließlich Host- und Plattform-Infrastruktursoftware, wenn sie auf NVIDIA-Accelerated-Computing-Infrastruktur über Drittanbieter-Cloud-, Neocloud- und Unternehmens-Infrastrukturen hinweg arbeiten.
Alle NVIDIA-Ankündigungen zu Europa lesen
NVIDIA Confidential Computing bietet nun eine konvergierte Sicherheitsarchitektur mit drei Bereitstellungsoptionen:
- Confidential Bare Metal für Bare-Metal-Infrastruktur
- Confidential Containers für Kubernetes-Umgebungen
- Confidential Virtual Machines für virtualisierte Umgebungen
Organisationen können das richtige Modell an ihre Vertrauensgrenzen und betrieblichen Anforderungen anpassen.
NVIDIA Confidential Computing wird auch auf NVIDIA Grace Blackwell- und Rubin-Systeme ausgeweitet und wird mit NVIDIA DSX OS als Referenzarchitektur für Cloud-Anbieter, die AI Factories bauen, integriert.
Modell-Ersteller nutzen globale Kapazitäten
Confidential Bare Metal bietet unterstützten Anbietern einen Weg, hochwertige Workloads zu bedienen, die starke Schutzmaßnahmen für Modell- und Datenprivatsphäre erfordern. Für Modell-Ersteller bietet das wachsende Ökosystem mehr geografische, souveräne und betriebliche Optionen, um Training und Inferenz weltweit zu skalieren.
Cohere plant, Confidential Bare Metal in Cohere Model Vault zu integrieren und nutzt dafür Trusted Execution Environments von NVIDIA Confidential Computing, um hardwareverwurzelte Sicherheit direkt auf die GPU zu erweitern — und so Modelle und Daten im Speicher und über Interconnects hinweg während der Ausführung zu schützen.
„Unternehmen vertrauen darauf, dass Cohere eine sichere und vertrauliche Plattform für Inferenz bereitstellt
Google Cloud erweitert die Unterstützung für Confidential Bare Metal auf A4X Max-Instanzen, die von NVIDIA GB300 NVL72-Systemen angetrieben werden. Diese werden nicht virtualisiertes NVIDIA Accelerated Computing mit kryptografischem Schutz für Trainingsdaten und geistiges Modelleigentum kombinieren.
Google Cloud führt Confidential Bare Metal ein, um KI-Labore hardwareisolierte, nicht virtualisierte Rechenumgebungen und End-to-End-kryptografischen Schutz zu bieten. Unsere A4X-Instanzen, die mit NVIDIA Confidential Computing gebaut wurden, bewahren die Privatsphäre von Nutzerdaten, schützen Modell-IP und bieten Spitzenleistung beim Serving. “
Confidential Computing wird über die NVIDIA-Plattform hinweg ausgeweitet
NVIDIA Confidential Computing nutzt hardwareverwurzelte Isolierung und kryptografische Attestierung, um Modelle und Daten während der Ausführung zu schützen.
Die Unterstützung erstreckt sich nun auf NVIDIA Grace Blackwell NVL72 — womit Confidential Computing auf NVL72-Rack-Systeme im Rack-Maßstab kommt — sowie auf x86-basierte NVIDIA HGX Rubin NVL8- und NVIDIA DGX Rubin NVL8-Systeme.
CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale und Vultr unterstützen NVIDIA Confidential Computing-Bereitstellungen. Globale Systempartner wie Cisco, Dell Technologies, HPE, Lenovo, Supermicro und Bull werden diese Funktionen mit unterstützen NVIDIA-Certified Systems.
NVIDIA DSX OS wird alle NVIDIA Confidential Computing-Modi unterstützen und Cloud-Anbietern eine Software-Grundlage für den Aufbau und Betrieb von AI Factories bieten, die vertrauliche Workloads unterstützen.
Erfahren Sie mehr über NVIDIA Confidential Computing.
Alle Ankündigungen von NVIDIA in Europa lesen