Cohere 宣布 Model Vault 的机密计算功能进入公开测试,基于 Microsoft Azure 上的 NVIDIA H100 GPU 机密计算能力,为托管模型推理提供硬件级隔离。该功能把加密范围从静态存储和传输中的数据扩展到推理运行中的提示词、文档、响应和模型执行,应用负载端到端加密后只能在通过远程证明的机密环境中解密。客户可在发送敏感数据前用密码学方式核验硬件、固件和软件配置,不符合安全策略时客户端会拒绝发送请求,现有 Model Vault API 和请求格式保持不变。
Infosys 分析认为,数据中心可通过提升能效和调度灵活负载为 AI 腾出近期容量,但这更可能推迟而非消除新增发电、输电和电网升级的需求。模型训练、重训练和批处理可围绕电网状况调度,实时推理和面向客户的应用通常不能。报告建议采用分阶段模块化建设,并配合量化、剪枝、知识蒸馏降低算力需求;公用事业公司则需历史表现、实时监控和合同承诺等可验证证据。
Microsoft 扩展主权云服务,新增 Sovereign Control Panel、Azure Managed HSM 外部密钥管理正式可用、Azure Confidential Clean Rooms 有限预览,以及 Foundry Local 将在 Ignite 上正式可用并支持本地推理与智能体检索。面向欧盟和 EFTA 客户,Microsoft 推出 Data Guardian,由区域合作伙伴独立监督远程访问请求。分析师指出,美国三大超大规模云厂商仍占欧洲云市场约 70%,本地部署无法消除法律与技术依赖。