2026年10月22日
4分钟阅读
Cohere Model Vault 推出机密计算现已进入公开测试阶段，基于 Microsoft Azure 上的 NVIDIA GPU 机密计算能力，为敏感的企业级 AI 带来硬件级保护和可验证的安全性。
要点
- 保护使用中的数据： Model Vault 将保护范围从静态数据和传输中的数据扩展到推理运行期间的提示词、文档、响应和模型执行。
- 端到端加密敏感请求内容： 应用负载在流经中间基础设施时始终保持加密，只能在经过认证的机密环境中解密。
- 先验证，再信任： 客户可以在敏感数据离开其基础设施之前，通过密码学方式验证硬件和软件环境。
- 将机密 AI 作为托管服务使用： Cohere 在 Microsoft Azure 基础设施上运营服务托管平台，具备 NVIDIA H100 GPU 机密计算能力。
- 即日起即可参与公开测试： 客户现在就可以开始部署加密的 Model Vault 工作负载。
今天，我们宣布推出 Cohere Model Vault 机密计算的公开测试版，为托管企业级 AI 带来硬件级保护和可独立验证的安全性。
Model Vault 为企业提供专属、全托管的模型推理服务。借助机密计算，我们将这一体验扩展到组织最敏感的部分工作负载和数据，包括财务信息、临床记录、特权文档、专有源代码和知识产权。
目标很简单：企业应当能够使用托管 AI 的能力和运维简便性，同时无需让运营该基础设施的一方访问其敏感的明文数据。
保护使用中的数据
传统加密保护数据所处的两种状态：存储时和通过网络传输时。
Model Vault 机密计算旨在保护第三种状态： 使用中的数据.
推理在横跨 CPU 和 GPU 的硬件级机密环境中运行。硬件强制隔离保护工作负载内存，使其免受机密边界之外的一切访问，包括特权基础设施软件和运维人员。借助 NVIDIA 机密计算，GPU 内存受到保护，模型执行推理时 CPU 与 GPU 之间的流量也会加密。
这使企业能够将更多敏感工作负载引入 AI，同时减少需要信任其数据的相关方和系统数量。
先验证，再信任
仅有保护还不够。企业还需要一种方法来确认这些保护措施确实已经到位。
这就是远程认证成为 Model Vault 机密计算核心组成部分的原因。
在发送敏感数据之前，客户端软件会通过密码学方式验证关于将处理该数据的环境的签名证据，包括其硬件、固件和软件配置。这些证据会对照经批准的安全策略进行检查。
如果环境不满足策略要求，客户端将拒绝发送请求。
这将信任模型从 “信任我们”转变为“自行验证”。
“企业不应被迫在托管 AI 的简便性与对最敏感信息的控制之间做出选择。借助 Model Vault 和机密计算，客户可以在发送数据之前验证将处理其数据的环境。通过硬件认证，客户不仅拥有工作负载运行在安全机密计算环境中的密码学证明，还能验证其数据受到保护、免遭未经授权的访问，即便是 Cohere 也无法访问。”
- Phil Blunsom，Cohere 首席技术官
敏感请求内容的端到端保护
机密计算保护计算环境内部发生的一切。Model Vault 还保护敏感请求内容在传输途中的安全。
Model Vault 并非仅依赖连接级加密，而是将应用负载端到端加密至经过认证的机密环境。加密后的请求可以流经中间基础设施而不暴露其内容，只有机密环境才能解密。响应在返回路径上同样受到保护。
这保留了托管 AI 平台的运维优势，同时不会将客户请求的明文内容暴露给中间基础设施。
客户继续使用 Model Vault API 和熟悉的请求格式。额外的保护内置于客户端和基础设施层，无需应用程序重新设计其负载。
基于 Microsoft Azure 和 NVIDIA 构建
该公开测试版由 Microsoft Azure 上的 NVIDIA H100 GPU.
提供支持。Microsoft Azure 提供底层机密计算基础设施，NVIDIA 机密计算将这些能力扩展到 NVIDIA H100 GPU。Cohere 通过 Model Vault 的托管模型服务、加密请求路径、远程认证和客户端验证将这些技术整合在一起。
最终成果是一个托管 AI 平台，它将云 AI 的运维简便性与推理期间对敏感数据访问的更强技术控制相结合。
“企业需要确信其最敏感的 AI 工作负载受到的保护不止于合同承诺。我们与 Cohere 在 Model Vault 上的合作表明，机密计算如何将托管 AI 的简便性与可独立验证的技术控制相结合。”
- Vikas Bhatia，Microsoft Azure 机密计算产品负责人
“机密计算为需要在高度敏感数据上运行 AI 的企业开辟了新的可能性。NVIDIA GPU 上的 NVIDIA 机密计算提供硬件级保护，帮助 Cohere Model Vault 等平台将机密 AI 推理引入企业工作负载。”
- John Fanelli，NVIDIA 企业软件副总裁
为敏感企业工作负载解锁 AI
对许多组织而言，问题已不再是 AI 能否执行某项任务，而是该任务所需的数据能否安全地用于 AI。
Model Vault 上的机密计算旨在保护那些因安全、合同或监管要求而可能使宝贵数据被挡在托管 AI 平台之外的工作负载，包括：
- 金融服务领域的欺诈调查
- 法律服务中的特权文件检索与尽职调查
- 敏感的公共部门信息
- 专利与研究材料
- 专有工程设计文档（EDD）、接口设计文档（IDD）和架构材料
- 跨专有源代码的搜索与分析
这类工作负载正是通过减少特权基础设施访问并向客户提供可独立验证的证据，使此前受限的 AI 用例变得切实可行的场景。
机密计算并不能消除所有风险，也不能替代应用安全、合规、合同控制或数据驻留要求。它在推理进行期间，为数据和计算提供由硬件强制执行且可验证的保护边界。
现已开放公开测试
Cohere Model Vault 上的机密计算现已开放公开测试，由 Microsoft Azure 上的 NVIDIA H100 GPU 提供支持。
客户可以通过 Model Vault 创建和管理加密保管库，并使用相同的 Cohere API 进行集成；客户侧验证和端到端加密可在敏感请求内容离开客户环境之前对其进行保护。
如需深入了解机密计算架构、加密请求路径、远程认证、信任边界和威胁模型，请阅读 深入 Cohere Model Vault：构建可验证的机密 AI 推理.
立即开始使用： vault.cohere.com
