跳到正文
NVIDIA Blog· Hannah Coutand·· 1 天前AI 评分40

欧洲领先企业采用 NVIDIA Vera CPU 构建本地 AI 基础设施

European Leaders Turn to NVIDIA Vera CPUs to Build Local Infrastructure

AI 导读

Nebius、Nscale 等 AI 云服务商正采用 NVIDIA Vera CPU 构建新一代欧洲基础设施,以支撑智能体计算对快速 CPU 处理的需求。Bull、Dell Technologies、HPE、Lenovo 和 Supermicro 正在制造 Vera 系统,Vera 既可独立部署也可与 NVIDIA GPU 协同。

正文 · AI 翻译

Nebius 和 Nscale 是希望采用 NVIDIA Vera CPU 构建下一波基础设施的全球技术合作伙伴之一。

它们的发展势头反映了智能体计算的快速进步。 

智能体不只是生成答案:它们会检索信息、运行软件工具、执行代码并评估结果。每一步都依赖于快速的 CPU 处理。 

Vera 加速了这些工作,帮助智能体更快地响应,并使数据中心能够更好地利用计算能力。即使同时运行数千个任务,Vera 也 能够保持这种速度,帮助组织在不牺牲响应速度的情况下扩展服务规模。

构建欧洲的计算能力

AI 云服务提供商 Nebius、Nscale 和 Verda 正在采用 Vera 进行构建,以满足企业和开发者不断增长的计算需求。高性能、高能效的 CPU 帮助这些提供商在 GPU 运行模型的同时,扩展服务背后的数据处理和软件执行能力。

更广泛的主权 AI 生态系统还包括 Aleria,一家主权 AI 基础设施和平台提供商,致力于满足让数据和运营处于客户掌控之下的基础设施需求。

让 Vera 发挥作用的更多方式

服务器制造商 Bull、Dell Technologies、HPE、联想 和 Supermicro 正在构建基于 Vera 的系统,为客户的高性能计算和 AI 数据中心提供更多部署选择。Vera 既可以驱动独立的 CPU 服务器,也可以在加速系统中与 NVIDIA GPU 协同工作,支持不同的工作负载和部署需求。

数据处理公司 ClickHouse、Cloudera、Duck Labs、Elastic、Polars、Redpanda、SAP 和 Starburst 在早期测试中发现,Vera 在分析、抽取-转换-加载(ETL)和语义搜索工作负载上表现出色。Vera 的单核性能、LPDDR5X 内存带宽和 NVIDIA 可扩展一致性结构(Scalable Coherency Fabric)帮助实现了全面的性能提升。

软件和开发者平台公司 Atlassian、Inherent 和 Nous Research 正在采用 Vera,用于 AI 智能体与开发者和研究人员协同工作的环境。Atlassian 希望借助 Vera 加速为其 AI 驱动的产品构建语义搜索索引的数据处理工作;Inherent 已经测试了 Vera,并希望在工程师与 AI 智能体共同开展前沿科学研究的环境中使用它;Nous Research 则使用 Vera 对智能体身份进行认证,并在每个操作执行前进行验证,确保智能体集群规模扩大时部署依然安全。 

Baseten-Blaxel、Daytona、E2B、Modal、Prime Intellect 和 Vercel 提供基于云的沙盒(作为 AI 智能体的计算机),并在 Vera 的基础上构建智能体执行代码、运行工具和测试结果所依赖的基础设施。 

每个智能体都需要一个可即时配置的安全隔离沙盒,而由于沙盒每天要启动数百万次,每次启动周期的速度都会在规模化时不断叠加。Vera 的快速单核性能和高带宽内存非常适合这种模式,为沙盒提供商提供足够的吞吐量,不仅能启动沙盒,还能以最大规模不间断地运行智能体工作负载。

了解更多关于 NVIDIA Vera CPU 的信息。 

来源: NVIDIA Blog · blogs.nvidia.com