해당 인스턴스의 정식 출시는 다음 달에 이루어지며, 유럽으로의 가용성 확대가 계획되어 있어 훈련, 추론 및 대규모 강화 학습을 위한 통합 플랫폼을 클라우드 고객에게 제공합니다.
A5X 인스턴스는 NVIDIA Vera Rubin NVL72, NVIDIA ConnectX-9 SuperNIC, Google Cloud Virgo Network, 그리고 Google Cloud의 4세대 첨단 액칭 냉각 기술을 결합하여 대규모의 까다로운 에이전틱 추론 및 강화 학습 워크로드를 지원합니다. Google Cloud는 Vera Rubin 기반 인프라를 여러 사이트에 걸쳐 최대 960,000개의 Rubin GPU로 확장할 계획입니다.
AlphaGo의 창시자 David Silver가 설립한 런던 기반 기술 회사인 Ineffable Intelligence는 A5X에 최초로 접근한 고객입니다. Ineffable은 이 플랫폼을 활용해 대규모 강화 학습을 발전시키고 경험으로부터 지속적으로 학습하는 “슈퍼러너(superlearner)” 시스템을 설계하고 있습니다.
유럽 내 모든 NVIDIA 발표 읽기
상호작용을 통한 학습에는 경험 생성, 결과 평가 및 모델 업데이트의 지속적인 순환이 필요하며, 이는 전체 프로세스를 대규모로 지원할 수 있는 인프라를 요구합니다. A5X 는 Vera Rubin을 Google Cloud의 AI Hypercomputer에 통합 시스템으로 도입하여, 컴퓨팅, 네트워킹 및 스토리지를 결합해 대규모 경험 기반 학습을 지원합니다.
“우리는 자신의 경험을 통해 지속적으로 개선되는 슈퍼러너를 만들고 있습니다”라고 Ineffable Intelligence의 창립자 겸 CEO인 David Silver가 말했습니다. “이를 위해서는 상당한 컴퓨팅과 더불어 경험 생성과 해당 경험에 대한 훈련 간의 긴밀한 연결이 필요하여, 에이전트의 각 개선 사항이 다음 경험을 빠르게 형성할 수 있습니다. Vera CPU와 Rubin GPU 간, 그리고 랙 내 Rubin GPU 간의 고대역폭 연결을 갖춘 Vera Rubin의 컴퓨팅 성능 조합은 우리 강화 학습 연구의 규모와 야망을 한층 더 밀어붙일 수 있게 해줍니다.”
런던 기반 마케팅 및 커뮤니케이션 회사인 WPP도 NVIDIA Nemotron 모델과 NVIDIA OpenShell을 사용하여 NVIDIA Vera Rubin 기반 A5X 인스턴스에서 창의적 에이전트 참조 아키텍처를 시연했으며, OpenShell은 다음의 일부입니다. 안전한 AI 에이전트를 위한 NVIDIA OpenShell 참조 아키텍처 이 에이전트들은 대화형 요청을 비디오 생성, 업스케일링, 리스타일링 같은 다단계 창의적 워크플로로 전환하며, 실행 전에 사람의 승인을 받습니다. OpenShell은 에이전트 실행을 위한 통제된 샌드박스를 제공하여 민감한 브랜드 자산과 창의 도구에 대한 접근을 제어하는 데 도움을 줍니다. WPP의 초기 테스트에서 일반적으로 멀티 노드 클러스터가 필요했던 워크로드가 단일 A5X 인스턴스에서 실행되었습니다.
에이전트는 대화형 요청을 비디오 생성, 업스케일링, 리스타일링 같은 다단계 크리에이티브 워크플로우로 전환하며, 실행 전에 사람의 승인을 거칩니다. OpenShell은 에이전트 실행을 위한 거버넌스가 적용된 샌드박스를 제공하여, 민감한 브랜드 자산과 크리에이티브 도구에 대한 접근을 제어하는 데 도움을 줍니다. WPP의 초기 테스트에서, 일반적으로 멀티 노드 클러스터가 필요했던 워크로드가 단일 A5X 인스턴스에서 실행되었습니다.
Google Cloud는 NVIDIA GB300 NVL72로 구동되는 A4X Max 인스턴스와 같은 베어 메탈 인스턴스에서 랙 규모의
NVIDIA 기밀 컴퓨팅(Confidential Computing) 을 제공하는 최초의 클라우드 제공업체 중 하나가 될 것입니다. 또한 Google Cloud는 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU로 구동되는 G4 VM에서 기밀 컴퓨팅을 NVIDIA GB300 NVL72로 구동되는 A4X Max 인스턴스 같은 베어 메탈 인스턴스에서 랙 규모로 지원합니다. 또한 Google Cloud는 Confidential Computing을 하여 기밀 추론 및 파인튜닝을 위한 유연한 플랫폼을 제공합니다. Vertebrae, Polaris Cloud, Confidential Core AI를 포함한 고객들이 기밀 G4를 대화형 프라이버시, 검증 가능한 에이전트 실행 및 정책 기반 기업 인텔리전스에 활용하고 있습니다. NVIDIA RTX PRO 6000 Blackwell Server Edition GPU로 구동되는 G4 VM에서 제공하여, 기밀 추론 및 파인튜닝을 위한 유연한 플랫폼을 제공합니다. Vertebrae, Polaris Cloud, Confidential Core AI 등의 고객은 대화 프라이버시, 검증 가능한 에이전트 실행, 정책 기반 거버넌스의 엔터프라이즈 인텔리전스를 위해 Confidential G4를 사용하고 있습니다.
규모에 맞는 에너지 효율적인 배포를 지원하기 위해, Google Cloud와 NVIDIA는 다음 사항을 함께 검토하고 있습니다 기능을 탐색하여 와트당 성능을 최적화하고 가용한 데이터 센터 전력 예산 내에서 용량을 확장하는 데 도움을 주고자 합니다. NVIDIA Vera Rubin과 Google Cloud A5X 인스턴스에 대해
자세히 알아보기 NVIDIA Vera Rubin 및 Google Cloud A5X 인스턴스에 대해 자세히 알아보세요.
유럽 내 모든 NVIDIA 발표 읽기