NVIDIAコンフィデンシャルコンピューティングが拡大、フロンティアモデルビルダーがグローバルインフラストラクチャ全体で安全にスケール可能に

NVIDIAはスタック全体で 安全なエージェントを実現するツールを構築しています。NVIDIA OpenShell Reference Architectureは、 本日発表されたものであり、組織がエージェントを大規模に安全に展開できるようにする、NVIDIAの拡大を続ける技術ポートフォリオの一部です。 NVIDIAコンフィデンシャルコンピューティング は、実行中にこれらのエージェントが依存するモデルとデータを保護するインフラストラクチャ層です。

本日、NVIDIAはConfidential Bare Metalという新たなデプロイオプションによってこの層を拡大します。これはNVIDIAコンフィデンシャルコンピューティングの新オプションで、フロンティアモデルビルダーが専用のサードパーティインフラストラクチャ上で機密性の高いワークロードを実行しながら、モデルとデータの管理を維持できるようにするものです。

NVIDIAは、転送中のデータを保護し、プラットフォームの整合性を測定し、ハードウェアレベルのアクセス制限を強制する、新しいプラットフォームセキュリティコントロールを導入します。これらの新しいコントロールにより、フロンティアモデルビルダーは、サードパーティのクラウド、ネオクラウド、エンタープライズインフラストラクチャ全体のNVIDIAアクセラレーテッドコンピューティングインフラ上で運用する際に、ベアメタルインスタンスを使用して、ホストおよびプラットフォームインフラストラクチャソフトウェアを含む独自のソフトウェアスタックを所有・運用できるようになります。

NVIDIAコンフィデンシャルコンピューティングは now、3つのデプロイオプションを備えた統合セキュリティアーキテクチャを提供します:

• ベアメタルインフラストラクチャ向けのConfidential Bare Metal
• Kubernetes環境向けのConfidential Containers
• 仮想化環境向けのConfidential Virtual Machines

組織は、信頼境界と運用要件に応じて適切なモデルを選択できます。

NVIDIAコンフィデンシャルコンピューティングは、NVIDIA Grace BlackwellおよびRubinシステム全体にも拡大され、AIファクトリを構築するクラウドプロバイダ向けのリファレンスアーキテクチャとしてNVIDIA DSX OSと統合される予定です。

モデルビルダーがグローバル容量を活用

Confidential Bare Metalは、対応プロバイダに、強力なモデルおよびデータのプライバシー保護を必要とする高価値ワークロードを提供する道を開きます。モデルビルダーにとって、拡大するエコシステムは、世界中でトレーニングと推論をスケールするためのより多くの地理的、主権的、運用上の選択肢を提供します。

Cohereは、Confidential Bare MetalをCohere Model Vaultに統合する計画であり、NVIDIAコンフィデンシャルコンピューティングのトラステッド実行環境を利用して、ハードウェアルート化されたセキュリティをGPUに直接拡張し、実行中のメモリ内および相互接続全体でモデルとデータを保護します。

「エンタープライズは、推論のための安全で機密性の高いプラットフォームをCohereに提供するよう信頼しています」とCohereの最高技術責任者Phil Blunsomは述べた。「Cohere Model VaultにNVIDIAコンフィデンシャルコンピューティングを搭載することで、ハードウェアルート化されたセキュリティをGPUに直接拡張し、実行中のメモリ内および相互接続全体で顧客データを保護します。」

Google Cloudは、NVIDIA GB300 NVL72システムを搭載したA4X MaxインスタンスへのConfidential Bare Metalのサポートを拡大しています。これにより、非仮想化のNVIDIAアクセラレーテッドコンピューティングと、トレーニングデータおよびモデルの知的財産に対する暗号化保護が組み合わされます。

「Google CloudはConfidential Bare Metalを導入し、AIラボにハードウェア分離された非仮想化のコンピューティング環境とエンドツーエンドの暗号化保護を提供します。NVIDIAコンフィデンシャルコンピューティングを用いて構築された当社のA4Xインスタンスは、ユーザーデータのプライバシーを保護し、モデルのIPを守り、トップクラスのサービングパフォーマンスを提供します」とGoogle Cloudのdistinguished engineer兼AIインフラストラクチャセキュリティリードであるAndrés Lagar-Cavillaは述べた。

NVIDIAプラットフォーム全体に拡大するコンフィデンシャルコンピューティング

NVIDIAコンフィデンシャルコンピューティングは、ハードウェアルート化された分離と暗号化アテステーションを用いて、実行中のモデルとデータの保護を支援します。

サポートはNVIDIA Grace Blackwell NVL72にまで拡大され、NVL72ラックスケールシステムにコンフィデンシャルコンピューティングをもたらすとともに、x86ベースのNVIDIA HGX Rubin NVL8およびNVIDIA DGX Rubin NVL8システムにも対応します。

CoreWeave、Firmus、GMI Cloud、Google Cloud、IREN、Lambda、Microsoft Azure Infrastructure、Nebius、Nscale、VultrがNVIDIAコンフィデンシャルコンピューティングのデプロイをサポートします。Cisco、Dell Technologies、HPE、Lenovo、Supermicro、Bullを含むグローバルシステムパートナーは、これらの機能を NVIDIA認定システム.

NVIDIA DSX OSはすべてのNVIDIAコンフィデンシャルコンピューティングモードをサポートし、機密ワークロードに対応するAIファクトリを構築・運用するためのソフトウェア基盤をクラウドプロバイダに提供します。

詳細はこちら NVIDIA Confidential Computing.