NVIDIA는 안전한 에이전트를 구현하는 도구를 개발합니다 스택 전반에서. NVIDIA OpenShell Reference Architecture는 오늘 발표되었으며, 조직이 대규모로 에이전트를 안전하게 배포할 수 있게 하는 NVIDIA의 성장하는 기술 포트폴리오의 일부입니다. NVIDIA Confidential Computing 은 실행 중 에이전트가 의존하는 모델과 데이터를 보호하는 인프라 계층입니다.
오늘 NVIDIA는 Confidential Bare Metal로 이 계층을 확장합니다. 이는 NVIDIA Confidential Computing과 함께 제공되는 새로운 배포 옵션으로, 프론티어 모델 빌더가 모델과 데이터에 대한 통제권을 유지하면서 전용 서드파티 인프라에서 민감한 워크로드를 실행할 수 있게 합니다.
NVIDIA는 전송 중 데이터를 보호하고, 플랫폼 무결성을 측정하며, 하드웨어 수준의 접근 제한을 강화하는 새로운 플랫폼 보안 제어 기능을 도입합니다. 이러한 새로운 제어 기능을 통해 프론티어 모델 빌더는 베어메탈 인스턴스를 사용하여 서드파티 클라우드, 네오클라우드 및 엔터프라이즈 인프라 전반의 NVIDIA 가속 컴퓨팅 인프라에서 운영할 때 호스트 및 플랫폼 인프라 소프트웨어를 포함한 자체 소프트웨어 스택을 소유하고 운영할 수 있습니다.
모든 NVIDIA 유럽 발표 내용 읽기
NVIDIA Confidential Computing은 이제 세 가지 배포 옵션을 갖춘 통합 보안 아키텍처를 제공합니다:
- 베어메탈 인프라를 위한 Confidential Bare Metal
- 쿠버네티스 환경을 위한 Confidential Containers
- 가상화 환경을 위한 Confidential Virtual Machines
조직은 자신의 신뢰 경계와 운영 요구 사항에 맞는 올바른 모델을 선택할 수 있습니다.
NVIDIA Confidential Computing은 또한 NVIDIA Grace Blackwell 및 Rubin 시스템 전반으로 확장되며, AI 팩토리를 구축하는 클라우드 제공업체를 위한 참조 아키텍처로 NVIDIA DSX OS와 통합될 예정입니다.
모델 빌더, 글로벌 capacity 활용
Confidential Bare Metal은 강력한 모델 및 데이터 프라이버시 보호가 필요한 고가치 워크로드를 지원 제공업체가 서비스할 수 있는 경로를 제공합니다. 모델 빌더에게 확장되는 이 생태계는 전 세계적으로 학습과 추론을 확장하기 위한 더 많은 지리적, 주권적, 운영적 선택지를 제공합니다.
Cohere는 Confidential Bare Metal을 Cohere Model Vault에 통합할 계획이며, NVIDIA Confidential Computing 신뢰 실행 환경을 사용하여 하드웨어 기반 보안을 GPU까지 직접 확장함으로써 실행 중 메모리 내 및 상호연결 전반에서 모델과 데이터를 보호합니다.
“기업들은 Cohere에 안전하고 기밀성이 보장되는 추론 플랫폼을 제공하도록 신뢰를 보냅니다.”라고 Cohere 최고기술책임자 Phil Blunsom이 말했습니다. “Cohere Model Vault의 NVIDIA Confidential Computing을 통해 우리는 하드웨어 기반 보안을 GPU까지 직접 확장하여 실행 중 메모리 내 및 상호연결 전반에서 고객 데이터를 보호합니다.”
Google Cloud는 NVIDIA GB300 NVL72 시스템으로 구동되는 A4X Max 인스턴스로 Confidential Bare Metal 지원을 확장합니다. 이는 비가상화 NVIDIA 가속 컴퓨팅과 학습 데이터 및 모델 지식 재산에 대한 암호화 보호를 결합할 것입니다.
“Google Cloud는 AI 연구소에 하드웨어 격리된 비가상화 컴퓨팅 환경과 엔드투엔드 암호화 보호를 제공하기 위해 Confidential Bare Metal을 도입합니다. NVIDIA Confidential Computing을 사용해 구축된 당사의 A4X 인스턴스는 사용자 데이터의 프라이버시를 보존하고, 모델 IP를 보호하며, 최상위 서빙 성능을 제공합니다.”라고 Google Cloud의 수석 엔지니어이자 AI 인프라 보안 책임자인 Andrés Lagar-Cavilla가 말했습니다.
NVIDIA 플랫폼 전반으로 확장되는 기밀 컴퓨팅
NVIDIA Confidential Computing은 하드웨어 기반 격리와 암호화 증명을 사용하여 실행 중 모델과 데이터를 보호합니다.
지원 범위가 이제 NVIDIA Grace Blackwell NVL72 — NVL72 랙 규모 시스템에 Confidential Computing을 제공 — 로 확장되었을 뿐만 아니라 x86 기반 NVIDIA HGX Rubin NVL8 및 NVIDIA DGX Rubin NVL8 시스템으로도 확장됩니다.
CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale 및 Vultr가 NVIDIA Confidential Computing 배포를 지원합니다. Cisco, Dell Technologies, HPE, Lenovo, Supermicro 및 Bull을 포함한 글로벌 시스템 파트너는 다음을 통해 이러한 기능을 지원할 것입니다 NVIDIA-Certified Systems.
NVIDIA DSX OS는 모든 NVIDIA Confidential Computing 모드를 지원하여 클라우드 제공업체에 기밀 워크로드를 지원하는 AI 팩토리를 구축하고 운영하기 위한 소프트웨어 기반을 제공합니다.
자세히 알아보기 NVIDIA 컴퓨팅 기밀 보호.
유럽 NVIDIA 발표 전체 읽기