NVIDIA来源发布时间

Google Cloud与NVIDIA宣布NVIDIA Vera Rubin基础设施正式商用

这些实例将于下个月正式商用,并计划将可用范围扩展至欧洲——为云客户带来一个用于训练、推理和大规模强化学习的集成平台。

这些实例将于下个月正式商用,并计划将可用范围扩展至欧洲——为云客户带来一个用于训练、推理和大规模强化学习的集成平台。

A5X实例将NVIDIA Vera Rubin NVL72、NVIDIA ConnectX-9 SuperNIC、Google Cloud Virgo Network以及Google Cloud第四代先进液冷技术结合在一起,用于大规模要求严苛的智能体推理和强化学习工作负载。Google Cloud计划将其基于Vera Rubin的基础设施扩展至多个站点的多达960,000颗Rubin GPU。

Ineffable Intelligence是一家总部位于伦敦的技术公司,由AlphaGo创造者David Silver创立,是首家使用A5X的客户。Ineffable正在利用该平台推进大规模强化学习,并打造能够从经验中持续学习的“超级学习者”系统。

阅读所有NVIDIA在欧洲的公告

 

通过交互进行学习需要经历生成经验、评估结果和更新模型的持续循环,因此需要能够大规模支持整个流程的基础设施。 A5X 将Vera Rubin作为集成系统引入Google Cloud的AI Hypercomputer,结合计算、网络和存储,以支持大规模的经验驱动学习。

“我们正在构建通过自身经验不断改进的超级学习者,”Ineffable Intelligence创始人兼首席执行官David Silver表示。“这既需要大量计算,也需要生成经验与基于经验训练之间的紧密连接,从而让智能体的每一次改进都能迅速塑造其下一次经验。Vera Rubin在计算性能与高带宽连接方面的组合——包括Vera CPU与Rubin GPU之间以及机架内Rubin GPU之间的连接——使我们能够进一步拓展强化学习研究的规模和雄心。”

总部位于伦敦的营销与传播公司WPP也在基于NVIDIA Vera Rubin的A5X实例上,使用NVIDIA Nemotron模型和NVIDIA OpenShell演示了其创意智能体参考架构,后者是 NVIDIA OpenShell参考架构 的一部分,用于安全的AI智能体。 

这些智能体将对话式请求转化为多步骤创意工作流,例如视频生成、放大和重新风格化,并在执行前需人工批准。OpenShell为智能体执行提供受治理的沙箱,帮助控制对敏感品牌资产和创意工具的访问。在WPP的初步测试中,通常需要多节点集群的工作负载在单个A5X实例上即可运行。

随着各组织部署智能体系统,它们需要保护驱动这些系统的专有模型和敏感数据——即使是在它们并不拥有的基础设施上运行时也是如此。

Google Cloud将成为首批在裸金属实例(如由NVIDIA GB300 NVL72驱动的A4X Max实例)上以机架规模提供 NVIDIA机密计算 在机架级规模上部署于裸机实例,例如由NVIDIA GB300 NVL72驱动的A4X Max实例。此外,Google Cloud正在提供机密计算 正式商用 服务,运行于由NVIDIA RTX PRO 6000 Blackwell Server Edition GPU驱动的G4虚拟机之上,为机密推理和微调提供灵活平台。包括Vertebrae、Polaris Cloud和Confidential Core AI在内的客户正在使用Confidential G4实现对话隐私、可验证的智能体执行和受政策治理的企业智能。

为支持大规模节能部署,Google Cloud与NVIDIA正在为基于Vera Rubin的基础设施探索 NVIDIA DSX MaxLPS 能力,以帮助优化每瓦性能并在可用数据中心电力预算内扩大容量。

了解更多 关于NVIDIA Vera Rubin和Google Cloud A5X实例的信息。

阅读所有NVIDIA在欧洲的公告

 

原始出处

NVIDIA

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准