このインスタンスの一般提供は来月開始で、欧州への提供拡大も計画されており、クラウド顧客にトレーニング、推論、大規模強化学習のための統合プラットフォームをもたらします。
A5Xインスタンスは、NVIDIA Vera Rubin NVL72、NVIDIA ConnectX-9 SuperNIC、Google Cloud Virgo Network、そしてGoogle Cloudの第4世代先進的な液体冷却技術を組み合わせ、大規模なエージェント型推論および強化学習ワークロードに対応します。Google Cloudは、Vera Rubinベースのインフラストラクチャを複数のサイトにわたり最大960,000基のRubin GPUへと拡張する計画です。
AlphaGoの生みの親であるDavid Silverが設立したロンドンのテクノロジー企業Ineffable Intelligenceは、A5Xに最初にアクセスした顧客となりました。Ineffableはこのプラットフォームを活用し、大規模強化学習を推進し、経験から継続的に学習する「スーパーラーナー」システムの構築に取り組んでいます。
NVIDIA in Europeのすべての発表を読む
相互作用を通じた学習には、経験の生成、結果の評価、モデルの更新という継続的なサイクルが必要であり、そのプロセス全体を大規模に支えられるインフラストラクチャが求められます。 A5Xは、Vera RubinをGoogle CloudのAI Hypercomputerに統合システムとしてもたらし、コンピュート、ネットワーキング、ストレージを組み合わせて、規模を拡大した経験駆動型学習を支援します。 「私たちは、自らの経験を通じて継続的に改善していくスーパーラーナーを構築しています」と、Ineffable Intelligenceの創設者兼CEOであるDavid Silver氏は述べています。「これには、十分なコンピュート性能と、経験の生成とそれを用いたトレーニングとの緊密な連携が求められ、エージェントの各改善が次の経験にすばやく反映されるようにする必要があります。Vera CPUとRubin GPU間、およびラック内のRubin GPU間における、Vera Rubinのコンピュート性能と高帯域接続の組み合わせにより、強化学習研究の規模と野心をさらに押し広げることができます。」
ロンドンに拠点を置くマーケティング・コミュニケーション企業WPPも、NVIDIA NemotronモデルとNVIDIA OpenShellを使用して、NVIDIA Vera RubinベースのA5Xインスタンス上で、同社のクリエイティブエージェントのリファレンスアーキテクチャを実証しました。OpenShellは、安全なAIエージェント向けの
ロンドンを拠点とするマーケティング・コミュニケーション企業のWPPも、NVIDIA NemotronモデルとNVIDIA OpenShellを使用して、NVIDIA Vera RubinベースのA5Xインスタンス上で、同社のクリエイティブエージェントのリファレンスアーキテクチャを実演しました。これは次の一部です。 の一部です。 これらのエージェントは、会話による要求を、実行前の人間による承認を伴うビデオ生成、アップスケーリング、リスタイリングといった多段階のクリエイティブワークフローへと変換します。OpenShellはエージェント実行のための管理されたサンドボックスを提供し、機密性の高いブランド資産やクリエイティブツールへのアクセス制御を支援します。WPPの初期テストでは、通常複数ノードのクラスタを必要としたワークロードが、単一のA5Xインスタンス上で実行されました。
これらのエージェントは、会話形式のリクエストを、ビデオ生成、アップスケーリング、リスタイリングといった複数ステップのクリエイティブワークフローに変換し、実行前に人間の承認を得ます。OpenShellは、エージェント実行のための統制されたサンドボックスを提供し、機密性の高いブランドアセットやクリエイティブツールへのアクセス制御を支援します。WPPの初期テストでは、通常はマルチノードクラスターを必要としたワークロードが、単一のA5Xインスタンス上で実行されました。
Google Cloudは、NVIDIA GB300 NVL72を搭載したA4X Maxインスタンスなど、ベアメタルインスタンス上でラックスケールの
NVIDIA Confidential Computing を提供する最初のクラウドプロバイダのひとつとなります。さらに、Google CloudはNVIDIA RTX PRO 6000 Blackwell Server Edition GPUを搭載したG4 VMでConfidential Computingを NVIDIA GB300 NVL72を搭載したA4X Maxインスタンスなどのベアメタルインスタンス上で、ラックスケールで提供されます。さらに、Google CloudはConfidential Computingを し、機密保持された推論とファインチューニングのための柔軟なプラットフォームを提供します。Vertebrae、Polaris Cloud、Confidential Core AIなどの顧客は、会話のプライバシー保護、検証可能なエージェント実行、ポリシーで管理されたエンタープライズインテリジェンスのためにConfidential G4を利用しています。 NVIDIA RTX PRO 6000 Blackwell Server Edition GPUを搭載したG4 VM上で提供し、機密性の高い推論とファインチューニングのための柔軟なプラットフォームを実現します。Vertebrae、Polaris Cloud、Confidential Core AIなどの顧客は、会話のプライバシー保護、検証可能なエージェント実行、ポリシーによって統制されたエンタープライズインテリジェンスのためにConfidential G4を利用しています。
大規模かつ省エネルギーな展開を支援するため、Google CloudとNVIDIAは次のことについて検討しています。 の機能を検討しており、ワットあたりのパフォーマンスの最適化と、利用可能なデータセンタ電力予算の範囲内での容量拡大を支援します。 NVIDIA Vera RubinとGoogle Cloud A5Xインスタンスの詳細については、
こちらをご覧ください NVIDIA Vera RubinおよびGoogle Cloud A5Xインスタンスについて。
NVIDIA in Europeのすべての発表を読む