Google Cloud 与 NVIDIA 宣布 NVIDIA Vera Rubin 基础设施正式可用
Google Cloud and NVIDIA Announce General Availability of NVIDIA Vera Rubin Infrastructure
Google Cloud 与 NVIDIA 宣布 Vera Rubin 基础设施正式可用,A5X 实例将于下月开放,并计划扩展至欧洲。
官方宣布 Vera Rubin 基础设施在 Google Cloud 正式可用,给出了实例配置、客户案例和后续扩容规模等具体细节。
这些实例将于下个月正式全面开放(GA),并计划将可用范围扩展至欧洲——为云客户带来一个集训练、推理和大规模强化学习于一体的平台。
A5X 实例集 NVIDIA Vera Rubin NVL72、NVIDIA ConnectX-9 超级网卡(SuperNIC)、Google Cloud Virgo 网络以及 Google Cloud 第四代先进液冷技术于一体,可应对大规模要求严苛的智能体推理和强化学习工作负载。Google Cloud 计划将其基于 Vera Rubin 的基础设施扩展至多个站点的多达 960,000 块 Rubin GPU。
Ineffable Intelligence 是一家总部位于伦敦的技术公司,由 AlphaGo 创造者 David Silver 创立,是首家使用 A5X 的客户。Ineffable 正在利用该平台推进大规模强化学习,并打造能够从经验中持续学习的“超级学习者”系统。
通过交互进行学习需要不断循环地生成经验、评估结果和更新模型,因此需要能够大规模支持整个流程的基础设施。A5X 将 Vera Rubin 作为集成系统引入 Google Cloud 的 AI Hypercomputer,结合计算、网络和存储,以支持大规模的基于经验的学习。
“我们正在打造通过自身经验不断改进的超级学习者,”Ineffable Intelligence 创始人兼 CEO David Silver 表示,“这既需要大量算力,又需要在经验生成与训练之间建立紧密连接,使智能体的每一次改进都能快速影响其下一次体验。Vera Rubin 将计算性能与高带宽连接相结合——无论是 Vera CPU 与 Rubin GPU 之间,还是机架内 Rubin GPU 之间——使我们能够进一步拓展强化学习研究的规模与雄心。”
总部位于伦敦的营销与传播公司 WPP 也在基于 NVIDIA Vera Rubin 的 A5X 实例上展示了其创意智能体参考架构,使用了 NVIDIA Nemotron 模型和 NVIDIA OpenShell(NVIDIA OpenShell 参考架构的一部分)。NVIDIA OpenShell 参考架构旨在保障 AI 智能体的安全。
这些智能体可将对话式请求转化为多步骤的创意工作流,例如视频生成、画质提升和风格重塑,并在执行前需经人工批准。OpenShell 为智能体执行提供受管控的沙箱,帮助控制对敏感品牌资产和创意工具的访问。在 WPP 的初步测试中,通常需要多节点集群才能运行的工作负载可以在单个 A5X 实例上运行。
随着各组织部署智能体系统,他们需要保护驱动这些系统的专有模型和敏感数据——即使是在其不拥有的基础设施上运行时也是如此。
Google Cloud 将成为首批在裸机实例(如由 NVIDIA GB300 NVL72 驱动的 A4X Max 实例)上提供机架级 NVIDIA 机密计算 的云服务商之一。此外,Google Cloud 正在由 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU 驱动的 G4 虚拟机上推出机密计算的正式可用版本,为机密推理和微调提供灵活的平台。包括 Vertebrae、Polaris Cloud 和 Confidential Core AI 在内的客户正在使用机密 G4 实现对话隐私、可验证的智能体执行和策略治理的企业智能。
为支持大规模的节能部署,Google Cloud 和 NVIDIA 正在探索将 NVIDIA DSX MaxLPS 能力用于基于 Vera Rubin 的基础设施,以帮助优化每瓦性能,并在数据中心现有电力预算内扩展容量。
了解更多 关于 NVIDIA Vera Rubin 和 Google Cloud A5X 实例的信息。
来源: NVIDIA Blog · blogs.nvidia.com