跳到正文
NVIDIA Blog· John Fanelli·· 3 小时前AI 评分50

NVIDIA 机密计算扩展推出 Confidential Bare Metal,助力前沿模型构建者安全扩展全球基础设施

NVIDIA Confidential Computing Expands, Enabling Frontier Model Builders to Securely Scale Across Global Infrastructure

AI 导读

NVIDIA 扩展其机密计算(Confidential Computing)能力,推出新部署选项 Confidential Bare Metal,让前沿模型构建者在第三方专属基础设施上运行敏感工作负载,同时保留对模型和数据的控制。

正文 · AI 翻译

NVIDIA 构建工具,以在全栈范围内实现安全的智能体。今天公布的 NVIDIA OpenShell 参考架构是 NVIDIA 日益壮大的技术组合的一部分,可帮助组织安全地大规模部署智能体。NVIDIA 机密计算是保护智能体运行时所依赖的模型和数据的基础设施层。

今天,NVIDIA 正在通过机密裸金属扩展这一层,这是 NVIDIA 机密计算的一种新部署选项,使前沿模型构建者能够在专用的第三方基础设施上运行敏感工作负载,同时保持对自身模型和数据的控制。 

NVIDIA 正在推出新的平台安全控制措施,以保护传输中的数据、度量平台完整性并强制执行硬件级访问限制。这些新控制措施让前沿模型构建者能够使用裸金属实例来拥有和运营其定制的软件栈,包括主机和平台基础设施软件,并在跨第三方云、neocloud 和企业基础设施的 NVIDIA 加速计算基础设施上运行。 

NVIDIA 机密计算现在提供包含三种部署选项的融合安全架构: 

  • 面向裸金属基础设施的机密裸金属
  • 面向 Kubernetes 环境的机密容器
  • 面向虚拟化环境的机密虚拟机

各组织可以将合适的模型与其信任边界和运营要求相匹配。

NVIDIA 机密计算还在向 NVIDIA Grace Blackwell 和 Rubin 系统扩展,并将与 NVIDIA DSX OS 集成,作为云提供商构建 AI 工厂的参考架构。

模型构建者利用全球容量

机密裸金属为受支持的提供商提供了一条路径,可服务需要强大模型和数据隐私保护的高价值工作负载。对于模型构建者而言,不断扩大的生态系统为其在全球范围内扩展训练和推理提供了更多地理、主权和运营选项。

Cohere 计划将机密裸金属集成到 Cohere Model Vault 中,利用 NVIDIA 机密计算的可信执行环境将基于硬件根的安全直接延伸到 GPU —— 在执行期间保护内存中以及互连链路上的模型和数据。

“企业信任 Cohere 提供安全且机密的推理平台,”Cohere 首席技术官 Phil Blunsom 表示。“通过 Cohere Model Vault 中的 NVIDIA 机密计算,我们将基于硬件根的安全直接延伸到 GPU,在执行期间保护内存中以及互连链路上的客户数据。”

Google Cloud 正在将机密裸金属支持扩展到由 NVIDIA GB300 NVL72 系统驱动的 A4X Max 实例。这些实例将非虚拟化的 NVIDIA 加速计算与针对训练数据和模型知识产权的加密保护相结合。

“Google Cloud 推出 Confidential Bare Metal,为 AI 实验室提供硬件隔离的非虚拟化计算环境和端到端加密保护。我们基于 NVIDIA Confidential Computing 构建的 A4X 实例,可保护用户数据隐私、保护模型知识产权,并提供顶级的服务性能,”Google Cloud 杰出工程师兼 AI 基础设施安全负责人 Andrés Lagar-Cavilla 表示。

NVIDIA Confidential Computing 利用基于硬件的隔离和加密证明,帮助在执行过程中保护模型和数据。

支持范围现已扩展至 NVIDIA Grace Blackwell NVL72——将机密计算带入 NVL72 机架级系统——以及基于 x86 的 NVIDIA HGX Rubin NVL8 和 NVIDIA DGX Rubin NVL8 系统。

CoreWeave、Firmus、GMI Cloud、Google Cloud、IREN、Lambda、Microsoft Azure Infrastructure, Nebius、Nscale 和 Vultr 支持 NVIDIA Confidential Computing 部署。包括 Cisco、Dell Technologies、HPE、Lenovo, Supermicro 和 Bull 在内的全球系统合作伙伴将通过 NVIDIA-Certified Systems 支持这些功能。

NVIDIA DSX OS 将支持所有 NVIDIA Confidential Computing 模式,为云服务提供商构建和运营支持机密工作负载的 AI 工厂提供软件基础。

了解更多关于 NVIDIA Confidential Computing 的信息。

来源: NVIDIA Blog · blogs.nvidia.com