先了解这件事
AI 综述
Uber Engineering分享了内部智能体安全体系Secure AI,其设计不只检查智能体权限,还核对具体动作是否符合用户请求。该体系由上线前审查、运行时约束和持续测试三部分组成,但未公布量化防护效果。上线前由AI Registry登记智能体用途、负责人、允许行为和风险等级,Argus分析代码、提示词与工具调用路径;运行时AI Guard结合用户请求、角色、会话上下文和智能体用途判断,并用本地小型专用模型并行检查以控制延迟。团队采用先观察不拦截的影子模式并按智能体逐个校准,同时承认防护只能降低风险,对新型提示词注入的效果仍较难预测。
AI 根据公开报道生成
最新进展 · 正式报道
Uber 分享 Agent 安全实践 Secure AI 的三层防护设计事件进展
1 个已确认进展
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
11月7日
邵猛
Uber 分享 Agent 安全实践 Secure AI 的三层防护设计
Uber Engineering 分享了内部智能体安全体系 Secure AI，除检查智能体权限外，还核对具体动作是否符合用户请求，由上线前审查、运行时约束和持续测试三部分组成，但未公布量化防护效果。上线前由 AI Registry 登记智能体用途、负责人、允许行为和风险等级，Argus 分析代码、提示词与工具调用路径；运行时 AI Guard 结合用户请求、角色、会话上下文和智能体用途判断，并用本地小型专用模型并行检查以控制延迟。团队采用先观察不拦截的影子模式并按智能体逐个校准，同时承认防护只能降低风险，对新型提示词注入的效果仍较难预测。