AI News

热点事件

Google公布Agent Anomaly Detection在五个公开基准上的测试结果

1 篇正式报道1 条事件动态更新于 11月12日 08:00

先了解这件事

AI 综述

Google于2026年11月12日公布其Agent Anomaly Detection在五项非Google编写的公开智能体安全基准上的测试结果。该评估覆盖1,774个会话,对智能体实际执行的有害指令标记率为87%,良性会话误报率为2%至16%。分基准看,执行有害指令的标记率在AgentDojo为85%、InjecAgent为87%、AgentDyn为99%、AgentHarm为81%。Google表示,该功能对目标劫持和工具滥用最强,对投毒记忆最弱,18次中仅捕获4次。目前尚无后续进展。

AI 根据公开报道生成

最新进展 · 正式报道

Agent Anomaly Detection 在五项非 Google 编写的基准测试中表现如何

事件进展

1 个已确认进展

  1. Google公布Agent Anomaly Detection在五个公开基准上的测试结果

    来源:Google Developers Blog

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月12日

  1. Google Developers Blog一手

    Agent Anomaly Detection 在五项非 Google 编写的基准测试中表现如何

    Google 的 Agent Anomaly Detection 在五项非 Google 编写的公开智能体安全基准上评估了 1,774 个会话,对智能体实际执行的有害指令标记率为 87%,良性会话误报率为 2% 至 16%。分基准看,执行有害指令的标记率在 AgentDojo 为 85%、InjecAgent 为 87%、AgentDyn 为 99%、AgentHarm 为 81%。该功能对目标劫持和工具滥用最强,对投毒记忆最弱,18 次中仅捕获 4 次。

关联事件

  1. 相关事件Google 面向开发者开放 Gemini 4 Argon
  2. 相关事件Anthropic发布Claude Opus 5.5
  3. 相关事件Apple宣布iOS 27.3开发者测试版下周发布
  4. 相关事件Anthropic公开提交S-1拟在纳斯达克IPO