先了解这件事
AI 综述
Google DeepMind于2026年11月13日发表论文,显示提示词注入问题尚未解决。论文介绍,由多个AI攻击智能体组成的Agentic Optimizer仍能骗过防御最强的模型。该系统由8组AI智能体组成,会测试注入、共享笔记并迭代彼此的最佳尝试,在100个工具调用任务上测试,攻击者只求触发一次随机无害的工具调用。最多尝试320次时,最强攻击者在最稳健的Gemini 4 Argon上攻破34%的任务,而开源权重模型Kimi K3、GLM-5.3和DeepSeek-V4.1-Flash仅抵御住1%的任务。
AI 根据公开报道生成
最新进展 · 正式报道
Google DeepMind 新论文:智能体攻击群仍能攻破防御最强的模型事件进展
1 个已确认进展
- 来源:Rohan Paul
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
11月13日
Rohan Paul
Google DeepMind 新论文:智能体攻击群仍能攻破防御最强的模型
Google DeepMind 新论文显示提示词注入尚未解决,由多个 AI 攻击智能体组成的 Agentic Optimizer 仍能骗过防御最强的模型。该系统由 8 组 AI 智能体组成,会测试注入、共享笔记并迭代彼此的最佳尝试,在 100 个工具调用任务上测试,攻击者只求触发一次随机无害的工具调用。最多尝试 320 次时,最强攻击者在最稳健的 Gemini 4 Argon 上攻破 34% 的任务,而开源权重模型 Kimi K3、GLM-5.3 和 DeepSeek-V4.1-Flash 仅抵御住 1% 的任务。
AI 热点