NVIDIA 构建工具以实现安全的智能体 在整个技术栈中。NVIDIA OpenShell 参考架构 今天发布,是 NVIDIA 日益壮大的技术组合的一部分,使组织能够大规模安全地部署智能体。 NVIDIA Confidential Computing 是基础设施层,在这些智能体运行时保护其依赖的模型和数据。
今天,NVIDIA 正通过 Confidential Bare Metal 扩展该层,这是一种 NVIDIA Confidential Computing 的新部署选项,使前沿模型构建者能够在专用的第三方基础设施上运行敏感工作负载,同时保持对其模型和数据的控制。
NVIDIA 正在推出新的平台安全控制措施,用于保护传输中的数据、度量平台完整性并强制执行硬件级访问限制。这些新控制措施让前沿模型构建者能够使用裸金属实例来拥有和运营其定制软件栈,包括主机和平台基础设施软件,从而在第三方云、新云和企业基础设施上的 NVIDIA 加速计算基础设施上运行。
阅读所有 NVIDIA 在欧洲的公告
NVIDIA Confidential Computing 现在提供一种融合的安全架构,包含三种部署选项:
- 面向裸金属基础设施的 Confidential Bare Metal
- 面向 Kubernetes 环境的 Confidential Containers
- 面向虚拟化环境的 Confidential Virtual Machines
组织可以根据其信任边界和运营要求匹配合适的模型。
NVIDIA Confidential Computing 还正在扩展到 NVIDIA Grace Blackwell 和 Rubin 系统,并将与 NVIDIA DSX OS 集成,作为云提供商构建 AI 工厂的参考架构。
模型构建者利用全球容量
Confidential Bare Metal 为受支持的提供商提供了一条服务需要强模型和数据隐私保护的高价值工作负载的途径。对于模型构建者来说,不断扩大的生态系统为在全球范围内扩展训练和推理提供了更多地理、主权和运营选项。
Cohere 计划将 Confidential Bare Metal 集成到 Cohere Model Vault 中,利用 NVIDIA Confidential Computing 可信执行环境将硬件根信任安全直接扩展到 GPU —— 在执行期间保护内存中以及互连线路上的模型和数据。
“企业信任 Cohere 提供安全且保密的推理平台,”Cohere 首席技术官 Phil Blunsom 表示。“借助 Cohere Model Vault 中的 NVIDIA Confidential Computing,我们将硬件根信任安全直接扩展到 GPU,在执行期间保护内存中以及互连线路上的客户数据。”
Google Cloud 正在将 Confidential Bare Metal 的支持扩展到由 NVIDIA GB300 NVL72 系统驱动的 A4X Max 实例。这些实例将结合非虚拟化的 NVIDIA 加速计算与加密保护,以保护训练数据和模型知识产权。
“Google Cloud 推出 Confidential Bare Metal,为 AI 实验室提供硬件隔离的非虚拟化计算环境和端到端加密保护。我们基于 NVIDIA Confidential Computing 构建的 A4X 实例可保护用户数据的隐私,保护模型知识产权,并提供顶级的服务性能,”Google Cloud 杰出工程师兼 AI 基础设施安全负责人 Andrés Lagar-Cavilla 表示。
Confidential Computing 在 NVIDIA 平台上的扩展
NVIDIA Confidential Computing 使用硬件根信任隔离和加密证明来帮助在执行期间保护模型和数据。
支持现已扩展到 NVIDIA Grace Blackwell NVL72 —— 将 Confidential Computing 引入 NVL72 机架级系统 —— 以及基于 x86 的 NVIDIA HGX Rubin NVL8 和 NVIDIA DGX Rubin NVL8 系统。
CoreWeave、Firmus、GMI Cloud、Google Cloud、IREN、Lambda、Microsoft Azure Infrastructure、Nebius、Nscale 和 Vultr 支持 NVIDIA Confidential Computing 部署。包括 Cisco、Dell Technologies、HPE、Lenovo、Supermicro 和 Bull 在内的全球系统合作伙伴将通过以下产品支持这些功能: NVIDIA 认证系统.
NVIDIA DSX OS 将支持所有 NVIDIA Confidential Computing 模式,为云提供商提供构建和运营支持机密工作负载的 AI 工厂的软件基础。
了解更多关于 NVIDIA Confidential Computing.
阅读所有NVIDIA在欧洲的公告