Nebius和Nscale是全球技术合作伙伴中寻求利用 NVIDIA Vera CPU 构建下一波基础设施的代表。
它们的势头反映了智能体计算的快速进步。
智能体不仅仅是生成答案:它们检索信息、运行软件工具、执行代码并评估结果。每一步都依赖快速的CPU处理。
Vera加速了这项工作,帮助智能体更快地响应,并使数据中心能够更好地利用计算能力。Vera 旨在即使在同时运行数千项任务时也能保持这种速度 ,帮助组织在不牺牲响应能力的情况下扩展服务规模。
阅读所有NVIDIA在欧洲的公告
构建欧洲的计算能力
AI云服务提供商Nebius、Nscale和Verda正在使用Vera进行构建,以支持企业和开发者日益增长的计算需求。高性能、高能效的CPU帮助这些提供商扩展服务背后的数据处理和软件执行,与运行模型的GPU相辅相成。
更广泛的主权AI生态系统还包括主权AI基础设施和平台提供商Aleria,支持对将数据和运营置于客户控制之下的基础设施的需求。
让Vera发挥作用的更多方式
服务器制造商Bull、Dell Technologies、HPE、 Lenovo 和Supermicro正在构建基于Vera的系统,为客户的高性能计算和AI数据中心提供更多部署选项。Vera可以为独立的CPU服务器提供动力,也可以与NVIDIA GPU一起在加速系统中协同工作,支持不同的工作负载和部署需求。
数据处理公司 ClickHouse、Cloudera、 DuckLabs、Elastic、 Polars, Redpanda, SAP 以及 Starburst 在早期测试中观察到Vera在分析、提取-转换-加载和语义搜索工作负载上的强劲表现。Vera的单核性能、LPDDR5X内存带宽和NVIDIA Scalable Coherency Fabric有助于全面提升性能。
软件和开发者平台公司Atlassian、Inherent和Nous Research正在采用Vera,用于AI智能体与开发者和研究人员协同工作的环境。Atlassian正寻求利用Vera加速为其AI驱动产品构建语义搜索索引的数据处理;Inherent已测试Vera,并寻求在AI智能体与工程师共同开展前沿科学研究的环境中采用它;Nous Research则使用Vera验证智能体身份并在每个操作执行前进行校验,在智能体机群增长时保持部署安全。
Baseten-Blaxel、Daytona、E2B、 Modal、Prime Intellect 和 Vercel 提供基于云的沙盒,作为 AI 智能体的计算机,并正在基于 Vera 构建智能体赖以执行代码、运行工具和测试结果的基础设施。
每个智能体都需要一个可以即时开通的安全、隔离的沙箱,而由于沙箱每天会启动数百万次,每次单个启动周期的速度会在大规模下不断叠加。Vera 的快速单核性能和高带宽内存使它非常适合这种模式,为沙箱提供商提供了足够的吞吐量,不仅能启动沙箱,还能以最大规模不间断地运行智能体工作负载。
了解更多关于 NVIDIA Vera CPU.
阅读全部NVIDIA在欧洲的公告