Nvidia 发布 Open Agent Safety Platform,称可在毫秒级隔离失控智能体
Nvidia 发布 Open Agent Safety Platform,称可在毫秒级隔离试图越界的 AI 智能体。该平台基于开源软件 OpenShell,运行在 Nvidia 的 Vera AI CPU 上,用户可限定智能体可访问的信息,OpenShell 会在任务执行前和执行中检查这些限制,另有独立芯片上的 Sentry 技术持续监控智能体并执行边界。Anthropic、Microsoft 和 SpaceX 等公司对该平台表示支持。
#安全/对齐#Agent#部署/工程
