NVIDIA来源发布时间

欧洲领导者转向NVIDIA Vera CPU构建本地基础设施

Nebius和Nscale是全球技术合作伙伴中寻求利用 NVIDIA Vera CPU 构建下一波基础设施的代表。

Nebius和Nscale是全球技术合作伙伴中寻求利用 NVIDIA Vera CPU 构建下一波基础设施的代表。

它们的势头反映了智能体计算的快速进步。

智能体不仅仅是生成答案:它们检索信息、运行软件工具、执行代码并评估结果。每一步都依赖快速的CPU处理。

Vera加速了这项工作,帮助智能体更快地响应,并使数据中心能够更好地利用计算能力。Vera 旨在即使在同时运行数千项任务时也能保持这种速度 ,帮助组织在不牺牲响应能力的情况下扩展服务规模。

阅读所有NVIDIA在欧洲的公告

 

构建欧洲的计算能力

AI云服务提供商Nebius、Nscale和Verda正在使用Vera进行构建,以支持企业和开发者日益增长的计算需求。高性能、高能效的CPU帮助这些提供商扩展服务背后的数据处理和软件执行,与运行模型的GPU相辅相成。

更广泛的主权AI生态系统还包括主权AI基础设施和平台提供商Aleria,支持对将数据和运营置于客户控制之下的基础设施的需求。

让Vera发挥作用的更多方式

服务器制造商Bull、Dell Technologies、HPE、 Lenovo 和Supermicro正在构建基于Vera的系统,为客户的高性能计算和AI数据中心提供更多部署选项。Vera可以为独立的CPU服务器提供动力,也可以与NVIDIA GPU一起在加速系统中协同工作,支持不同的工作负载和部署需求。

数据处理公司 ClickHouse、Cloudera、 DuckLabs、Elastic、 Polars, Redpanda, SAP 以及 Starburst 在早期测试中观察到Vera在分析、提取-转换-加载和语义搜索工作负载上的强劲表现。Vera的单核性能、LPDDR5X内存带宽和NVIDIA Scalable Coherency Fabric有助于全面提升性能。

软件和开发者平台公司Atlassian、Inherent和Nous Research正在采用Vera,用于AI智能体与开发者和研究人员协同工作的环境。Atlassian正寻求利用Vera加速为其AI驱动产品构建语义搜索索引的数据处理;Inherent已测试Vera,并寻求在AI智能体与工程师共同开展前沿科学研究的环境中采用它;Nous Research则使用Vera验证智能体身份并在每个操作执行前进行校验,在智能体机群增长时保持部署安全。

Baseten-Blaxel、Daytona、E2B、 Modal、Prime Intellect 和 Vercel 提供基于云的沙盒,作为 AI 智能体的计算机,并正在基于 Vera 构建智能体赖以执行代码、运行工具和测试结果的基础设施。 

每个智能体都需要一个可以即时开通的安全、隔离的沙箱,而由于沙箱每天会启动数百万次,每次单个启动周期的速度会在大规模下不断叠加。Vera 的快速单核性能和高带宽内存使它非常适合这种模式,为沙箱提供商提供了足够的吞吐量,不仅能启动沙箱,还能以最大规模不间断地运行智能体工作负载。

了解更多关于 NVIDIA Vera CPU. 

阅读全部NVIDIA在欧洲的公告

 

原始出处

NVIDIA

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准