先了解这件事
AI 综述
Google于2026年11月12日公布其Agent Anomaly Detection在五项非Google编写的公开智能体安全基准上的测试结果。该评估覆盖1,774个会话,对智能体实际执行的有害指令标记率为87%,良性会话误报率为2%至16%。分基准看,执行有害指令的标记率在AgentDojo为85%、InjecAgent为87%、AgentDyn为99%、AgentHarm为81%。Google表示,该功能对目标劫持和工具滥用最强,对投毒记忆最弱,18次中仅捕获4次。目前尚无后续进展。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源:Google Developers Blog
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
11月12日
Google Developers Blog一手
Agent Anomaly Detection 在五项非 Google 编写的基准测试中表现如何
Google 的 Agent Anomaly Detection 在五项非 Google 编写的公开智能体安全基准上评估了 1,774 个会话,对智能体实际执行的有害指令标记率为 87%,良性会话误报率为 2% 至 16%。分基准看,执行有害指令的标记率在 AgentDojo 为 85%、InjecAgent 为 87%、AgentDyn 为 99%、AgentHarm 为 81%。该功能对目标劫持和工具滥用最强,对投毒记忆最弱,18 次中仅捕获 4 次。