NVIDIA 在 OCP 全球峰会开放 Vera Rubin 机架设计并联合伙伴发布多项 AI 工厂开放标准
OCP Global Summit: Amid Ecosystem Adoption, NVIDIA Opens Vera Rubin Architecture to Help Scale AI Factories Worldwide
NVIDIA 在 OCP 全球峰会宣布通过 MGX 开放架构向 OCP 贡献 Vera Rubin 机架与计算托盘设计,MGX 1.2 规范新增机架级盲插液冷、液冷 5000A 母排和最高 250kW 机架部署支持。
原文汇总了 MGX 1.2、Open Data Center Specification v0.7 等多项开放规格与配套软件,读者可据此了解 AI 工厂的开放基础。
随着 AI 工厂从兆瓦级扩展到吉瓦级,建造它们不仅仅需要先进的计算能力。开放标准正在帮助行业更快、更高效、更可靠地扩展 AI 基础设施。
在圣何塞麦克内里会议中心举行的开放计算项目(OCP)全球峰会上,NVIDIA 宣布了新的合作伙伴关系与贡献,旨在为下一代 AI 基础设施打造一个共同的基础。
NVIDIA 通过开放的 NVIDIA MGX 架构,向 OCP 贡献了关键的 NVIDIA Vera Rubin 机架和计算托盘设计,为系统制造商提供了一个开发下一代 AI 工厂基础设施的共同基础。
这些努力共同涵盖了 AI 工厂本身、为其供电的电网,以及现代加速计算核心的机架级架构。
NVIDIA 与合作伙伴宣布开放架构进展
在 OCP 大会上,NVIDIA 与合作伙伴发布了多项公告:
- NVIDIA 与超大规模云服务商发布了下一代 AI 工厂的开放标准,包括 AI 工厂设计标准和电网韧性。
- NVIDIA 为 NVIDIA DSX AI Factory 推出了新的开源软件组件。
- Meta 与 NVIDIA 通过 NVIDIA Spectrum-X Ethernet SuperNIC 和 Spectrum-6 创新推进了开放的 AI 网络。
- Visionbay 推出了面向 Vera Rubin 时代的 800V 直流 AI 工厂设计。
- NVIDIA 与 Cisco 宣布了超高密度小尺寸可插拔(USFP)标准,这是业界首个面向 400Gb/s 网络架构的模块。
- NVIDIA 与 Google 宣布未来的 NVIDIA ConnectX-10 SuperNIC 和 BlueField DPU 将支持 Falcon Transport。
在座无虚席的观众面前,NVIDIA 超大规模与高性能计算副总裁 Ian Buck 讨论了开放基础设施如何成为在全球范围内扩展 AI 工厂的关键要素。
这次 OCP 上发布的消息凸显了 NVIDIA 的深度协同设计与开放标准相结合,正在加速部署、提升电源效率并推动每瓦 token 性能。
Vera Rubin AI 工厂借助 MGX 机架贡献在 OCP 上取得进展 🔗
NVIDIA 与行业领袖一道,通过 OCP 的 Open DC 计划为第三代 MGX AI 数据中心参考设计做出贡献。
结合 MQD 和 MQDB 等开放的液冷技术,这项工作有助于将经过验证的 AI 工厂设计转化为行业可采纳、可制造、可扩展的标准。
对于 NVIDIA Vera Rubin AI 工厂,更新的 MGX 1.2 规范通过机架级盲插液冷、可互操作的机架级互连基础设施以及为更高功率 AI 系统设计的液冷 5000A 母线,扩展了 AI 工厂的开放架构。它还增加了对 19 英寸设备的原生支持和更高密度的机架设计。
MGX 1.2 通过可配置的 I/O 托架、无风扇液冷计算托盘、标准化的电源和散热接口,以及帮助生态系统合作伙伴构建可互操作的加速计算平台的通用基础设施,进一步扩展了模块化。它缩短了组装、测试和服务时间,简化了制造和现场服务,从而实现更快、更高效的基础设施建设。该架构支持高达 250kW 的机架部署,同时简化了可维护性、部署和基础设施复用。
Vera CPU 机架设计规范将 NVIDIA MGX 开放架构扩展到加速计算之外,为日益增长的智能体 AI 时代提供了一个专用平台。Vera Rubin NVL72 是大规模训练和推理的基础,而 NVIDIA Vera CPU 机架旨在支持工具调用、编排和沙盒执行,帮助 AI 智能体实时与应用、数据和服务交互。
Vera CPU 机架基于第三代 NVIDIA MGX 机架架构构建,共享相同的机架级设计原则,将计算、网络、电源和散热统一到一个通用模块化平台中。这种方式使合作伙伴能够部署专用基础设施,同时受益于共享的生态系统、简化的集成以及面向下一代 AI 工厂的统一基础。

NVIDIA 为 DSX AI 工厂推出新的开源软件组件 🔗
NVIDIA DSX AI 工厂平台应用极致协同设计,将计算、网络、电源、散热、设施和软件统一起来,帮助 AI 工厂作为一个单一的优化系统运行,在现有基础设施限制内最大化 AI 产出。这一统一系统的核心是 DSX OS,这是一个开放的操作系统层,可将 DSX 架构转化为协调一致、可重复的大规模运营。
在 OCP 大会上,NVIDIA 通过用于配置网络、验证集群、管理机架和裸机开通的开源组件扩展了 DSX OS:
- NVIDIA Config Manager:大规模自动化交换机配置,使客户能够以最少甚至零人工干预的方式部署、验证和维护一致的 AI 工厂网络架构/
- NVIDIA Cluster Readiness Engine:通过使用真实工作负载仿真对 GPU 集群进行压力测试,帮助消除代价高昂的任务崩溃,确保训练开始前的硬件健康
- NVIDIA Rack Management Service:提供机架硬件抽象和运营解决方案,将机架视为一等单元,以改善 AI 工厂规模的固件管理。
- Cluster API Provider for NVIDIA Infrastructure Controller:加速裸机部署和租户入驻,将原始 AI 硬件在数小时内(而非数天内)转变为可用于生产的集群。
这些开源组件源自 NVIDIA 运营 NVIDIA DGX Cloud 的经验,使云提供商和软件合作伙伴能够将 AI 工厂能力直接集成到其多租户平台中。
开发者可以访问 NVIDIA DSX AI Factory 的 GitHub 页面,探索并为 NVIDIA DSX AI Factory 平台的新旧开源软件组件做出贡献。

NVIDIA 与超大规模云服务商发布面向下一代 AI 工厂的开放标准 🔗
要让 AI 基础设施实现全球规模化,仅有先进的硬件还不够——还需要一个整个行业都能赖以构建的通用基础。
在 OCP 大会上,NVIDIA 与 AMD、Google 和 Meta 共同发布了一项新的开放规范,确立了这一基础。开放数据中心规范 v0.7 为下一代 AI 工厂的设施设计定义了统一的蓝图——从电力架构到散热基础设施再到物理布局。
由 Google、Meta、Microsoft 和 NVIDIA 发布的OCP 电网韧性规范,规定了大规模 AI 基础设施在公用电网受到扰动时应如何表现:保持连接、自动响应,并在不到两秒内恢复到接近满负载的状态。
随着这些标准现已开放,世界各地的制造商有了共同的构建目标。设备制造商、托管服务提供商和数据中心运营商可以开始设计、制造和交付为全球在建 AI 工厂提供动力的基础设施层——而无需等待各个客户的专有规范。
由于与NVIDIA DSX 参考设计兼容,这些规范为两项规格提供了经过验证、可部署的实现,从设施布局和电力架构,到实时监控并响应电网信号的软件。对于正在构建 Vera Rubin AI 工厂的运营商而言,如今从开放社区标准到运行中的系统之间有一条直通路径。

Visionbay.ai 为 Vera Rubin 时代设计 800VDC AI 工厂 🔗
随着 AI 工厂规模越来越大、性能越来越强,一个挑战笼罩着它们所有人:如何为驱动下一代 AI 的加速计算系统提供足够的电力。
在 OCP 大会上,Visionbay 公布了 K-1 的计划,这是一个围绕 800 VDC 架构设计的下一代 AI 工厂平台,并着眼于未来的 NVIDIA Vera Rubin 部署而构建。该项目将 NVIDIA 的 800 VDC 参考架构与来自 Vertiv 的电力和散热技术相结合,为高密度 AI 基础设施打造可扩展的基础。
该设计解决了一个日益严峻的行业挑战。随着 AI 训练、推理和推理类工作负载的扩展,机架功率密度持续上升。传统的低压配电越来越难以扩展,需要更多的铜材、更多的布线和更多的电力转换设备。
通过采用 NVIDIA 的 800 VDC 架构,K-1 为更高密度的 AI 基础设施开辟了一条路径,同时为现有部署保留了灵活性。该平台并非要求在第一天就完成全面过渡,而是设计为在最能发挥效益的地方逐步引入 800 VDC 配电,帮助运营商为未来几代加速计算做好准备,而无需对设施进行大规模重新设计。
该架构围绕集群级电力中心设计,集中进行交流到直流的转换,并将 800 VDC 分配到更靠近计算资源的位置。这种方式简化了下游供电,支持模块化扩展,并为未来 AI 工厂的扩展创造了可复用的构建模块。
K-1 还体现了 NVIDIA AI 工厂背后的系统级设计理念,即电力、散热和计算被协同设计。凭借对液冷基础设施、可扩展配电以及未来 Vera Rubin 级部署的支持,该项目展示了生态系统合作伙伴如何将 NVIDIA 的 AI 工厂架构转化为可部署的基础设施,以迎接下一个加速计算时代。

在此次活动中,Meta 与 NVIDIA 宣布,Meta 将采用 NVIDIA Spectrum-6 102.4Tb/s 以太网交换机,在开放网络上构建规模更大、性能更高的 NVIDIA Vera Rubin AI 工厂。
Spectrum-6 的交换容量和每通道带宽是 Spectrum-4 的两倍,可提供每通道 200G 的无损以太网 AI 网络,具有高有效带宽和性能隔离能力,确保一个任务的流量不会拖慢另一个任务。
Meta 基于 Spectrum-6 的交换机 N-IceCube 可插入 Meta 的 100T 液冷机架 IcePack 中。N-IceCube 运行 Facebook Open Switching System(FBOSS),这是 Meta 的开源网络操作系统,已贡献给 OCP,以支持超大规模下的高效组网。
FBOSS 构建在交换抽象接口(Switch Abstraction Interface)之上,这是 NVIDIA 参与开发的一项 OCP 标准,提供了一种独立于供应商的交换机硬件控制方式。这些技术共同支持超过 100,000 个 GPU 的智能体 AI 工厂,用于训练和服务大规模 混合专家 模型。
此次发布标志着双方合作迈出了下一步,将 Meta 在超大规模运营 AI 基础设施方面的经验与 NVIDIA 的网络技术相结合。
这一合作的核心是 Spectrum-X Multiplane 技术,由 Spectrum-6 交换机和 ConnectX-9 超级网卡(SuperNIC)实现。Multiplane 在硬件中将 GPU 流量分配到最多八个独立的网络平面,使 AI 工厂能够以更少的交换层级和更低的基础设施成本扩展到超过 100,000 个 GPU。GPU 之间的多条路径提升了网络利用率和韧性:当某个组件发生故障时,流量会转移到其余平面,即使带宽降低,GPU 仍能保持生产效率,AI 应用也能继续运行。
Meta 和 NVIDIA 通过部署经验和快速工程迭代共同加强了这种韧性。两个团队在本地部署和云环境中验证了改进效果。
Meta数据中心与AI网络高级总监Omar Baldonado表示:“我们很高兴与NVIDIA紧密合作,使多平面网络架构(multiplane fabrics)在运营上可扩展且高性能,这是我们自身基础设施建设和联合云合作伙伴的关键需求。将FBOSS扩展到Spectrum ASIC意味着我们可以在整个网络架构中运行同一软件栈,而Meta基于Spectrum的新型交换机N-IceCube将其带入Icepack——我们面向scale-out的液冷102.4T网络机架,用于连接我们集群中即将推出的新一代加速器。”
Meta与NVIDIA正在共同开发一套架构和运营手册,供其他AI基础设施运营商采用,将来自严苛生产工作负载的经验转化为更可扩展、更有韧性且更高效的AI工厂。

NVIDIA与Cisco通过USFP重新定义可插拔光模块,助力AI工厂扩展 🔗
随着AI工厂的规模扩大以支持更大的模型和激增的推理需求,基础设施栈的每个组件都必须提供更高的性能、效率和简洁性——直至网络连接本身。
在OCP大会上,NVIDIA与Cisco宣布了USFP计划,这是一种新的可插拔光收发模块外形规格,旨在帮助AI工厂建设者扩展下一代AI网络架构,同时提升带宽密度和能效。
USFP的占用面积与广泛采用的每通道200Gb/s的OSFP外形规格大致相同,将提供通向每通道400Gb/s网络的路径,并延续已在多代数据中心网络中得到验证的基于收发器的部署模式。USFP配备16个全双工通道并计划扩展至32个通道,将提供传统每通道200Gb/s可插拔光模块四倍的带宽密度。
其结果是,能够连接更多计算资源,而无需增加可能增加延迟、功耗和复杂性的网络层级。
新的外形规格专为下一代AI工厂的规模和效率需求而设计,在支持更高带宽网络架构的同时,保留了使可插拔光模块成为现代数据中心支柱的灵活性和可维护性。它还将提供约1.3倍的能效提升,帮助运营商以更少的能耗传输更多数据。
为助力构建开放生态,NVIDIA与Cisco正与TE Connectivity和Amphenol合作开发笼盒、连接器和模块,并计划通过社区主导的多源合作推进USFP。这些公司正共同为更可扩展、更高效、更具互操作性的AI工厂网络奠定基础。

Google Falcon Transport 支持NVIDIA ConnectX-10,实现可互操作的AI网络 🔗
NVIDIA与Google还宣布在未来的NVIDIA ConnectX-10 SuperNIC和BlueField DPU上支持Falcon Transport,帮助提升大规模AI基础设施的网络效率。
Falcon 是一种传输协议,旨在通过以太网网络可靠地传输数据,否则以太网在拥塞时可能会丢包。它通过多路径负载均衡、可编程的拥塞控制、硬件丢包恢复和逐连接安全性来支持 AI 和存储工作负载。
此次合作将 NVIDIA 硬件加速与 DOCA 软件相结合,以实现 Falcon 并将 NVIDIA 网络扩展到 Google 的数据中心传输。NVIDIA 和Google NIC 可以通过通用传输协议进行通信,同时应用程序保留标准的 RDMA 编程接口。
通过跨路径分发流量、适应拥塞、恢复丢失的数据包并保护连接,Falcon 帮助工作负载更好地利用可用带宽,并在以太网架构扩展时保持可预测的性能。
加入NVIDIA 在 OCP 的活动了解更多。
来源:NVIDIA Blog · blogs.nvidia.com
