Cohere宣布Model Vault机密计算公测
Cohere 宣布 Model Vault 的机密计算功能进入公开测试。该功能基于 Microsoft Azure 上的 NVIDIA H100 GPU 机密计算能力,为托管模型推理提供硬件级隔离。据 Cohere 产品与研究博客介绍,加密范围从静态存储和传输中的数据扩展到推理运行中的提示词、文档、响应和模型执行;应用负载端到端加密后,只能在通过远程证明的机密环境中解密。客户可在发送敏感数据前用密码学方式核验硬件、固件和软件配置,不符合安全策略时客户端会拒绝发送请求。现有 Model Vault API 和请求格式保持不变。目前该功能处于公测阶段。
匹配字段摘要