←新闻详情

NVIDIA:Newsroom更新于 10月25日 21:15

NVIDIA 机密计算新增 Confidential Bare Metal 部署选项

NVIDIA Confidential Computing Expands to Securely Scale Global Infrastructure | NVIDIA Blog

AI 导读

NVIDIA 扩展机密计算能力,推出 Confidential Bare Metal 部署选项,让前沿模型构建方在第三方专用基础设施上运行敏感负载时仍能掌控模型与数据。该方案与已有的 Confidential Containers、Confidential Virtual Machines 组成三种部署形态,并新增传输中数据保护、平台完整性度量和硬件级访问限制等控制。Cohere 计划将其接入 Cohere Model Vault,Google Cloud 将在基于 GB300 NVL72 的 A4X Max 实例上支持该能力,CoreWeave、Microsoft Azure Infrastructure、Nebius 等厂商也支持相关部署。

推荐理由

AI 评分 56

原文列出三种机密计算部署形态与首批支持的云厂商,可据此判断前沿模型在第三方基础设施上运行时的数据保护边界。

主题

标签

正文 · AI 翻译

NVIDIA 构建工具,助力在整个技术栈中实现安全智能体。今日发布的 NVIDIA OpenShell 参考架构是 NVIDIA 不断扩展的技术组合的一部分,该组合使企业能够大规模安全部署智能体。NVIDIA 机密计算是基础设施层,在运行时保护这些智能体所依赖的模型和数据。

如今,NVIDIA 通过 Confidential Bare Metal 扩展该层,这是 NVIDIA 机密计算的一项新部署选项,使前沿模型构建方能够在专用第三方基础设施上运行敏感工作负载,同时保持对模型和数据的控制。

NVIDIA 推出新的平台安全控制措施,保护传输中的数据、度量平台完整性并实施硬件级访问限制。这些新控制措施让前沿模型构建方在跨第三方云、新型云和企业基础设施的 NVIDIA 加速计算基础设施上运行时,能够使用裸金属实例拥有和运营其定制软件栈,包括主机和平台基础设施软件。阅读 NVIDIA 在欧洲的全部公告

NVIDIA 机密计算现提供融合安全架构,包含三种部署选项:

面向裸金属基础设施的 Confidential Bare Metal

面向 Kubernetes 环境的 Confidential Containers

面向虚拟化环境的 Confidential Virtual Machines

企业可以根据自身的信任边界和运营需求匹配适合的模式。

NVIDIA 机密计算还在扩展至 NVIDIA Grace Blackwell 和 Rubin 系统,并将与 NVIDIA DSX OS 集成,作为云提供商构建 AI 工厂的参考架构。

模型构建方利用全球算力

Confidential Bare Metal 为受支持的提供商提供了一条路径,以服务需要强模型和数据隐私保护的高价值工作负载。对于模型构建方而言,不断扩展的生态系统提供了更多地理、主权和运营选项,以在全球范围内扩展训练和推理。

Cohere 计划将 Confidential Bare Metal 集成到 Cohere Model Vault 中,利用 NVIDIA 机密计算可信执行环境将硬件级安全直接扩展至 GPU——在执行期间保护内存中和跨互连的模型与数据。

“企业信任 Cohere 提供安全且保密的推理平台,”Cohere 首席技术官 Phil Blunsom 表示。“通过在 Cohere Model Vault 中采用 NVIDIA 机密计算,我们将硬件级安全直接扩展至 GPU,在执行期间保护内存中和跨互连的客户数据。”

Google Cloud 正在将 Confidential Bare Metal 的支持扩展至由 NVIDIA GB300 NVL72 系统驱动的 A4X Max 实例。这些实例将把非虚拟化的 NVIDIA 加速计算与针对训练数据和模型知识产权的加密保护相结合。

“Google Cloud 推出 Confidential Bare Metal,为 AI 实验室提供硬件隔离的非虚拟化计算环境和端到端加密保护。我们基于 NVIDIA 机密计算构建的 A4X 实例可保护用户数据隐私、保护模型知识产权,并提供一流的服务性能,”Google Cloud 杰出工程师兼 AI 基础设施安全负责人 Andrés Lagar-Cavilla 表示。

NVIDIA 机密计算利用硬件级隔离和加密证明,在执行期间帮助保护模型和数据。

支持范围现已扩展至 NVIDIA Grace Blackwell NVL72——将机密计算引入 NVL72 机架级系统——以及基于 x86 的 NVIDIA HGX Rubin NVL8 和 NVIDIA DGX Rubin NVL8 系统。

CoreWeave、Firmus、GMI Cloud、Google Cloud、IREN、Lambda、Microsoft Azure Infrastructure、Nebius、Nscale 和 Vultr 支持 NVIDIA 机密计算部署。包括 Cisco、Dell Technologies、HPE、Lenovo、Supermicro 和 Bull 在内的全球系统合作伙伴将通过 NVIDIA 认证系统支持这些能力。

NVIDIA DSX OS 将支持所有 NVIDIA 机密计算模式,为云提供商提供构建和运营支持机密工作负载的 AI 工厂的软件基础。

了解有关 NVIDIA 机密计算的更多信息。阅读 NVIDIA 在欧洲的全部公告

来源

NVIDIA:Newsroom