AI 热点

热点事件

Google DeepMind论文显示提示注入仍未解决

1 篇正式报道1 条事件动态更新于 11月13日 22:47

先了解这件事

AI 综述

Google DeepMind于2026年11月13日发表论文,显示提示词注入问题尚未解决。论文介绍,由多个AI攻击智能体组成的Agentic Optimizer仍能骗过防御最强的模型。该系统由8组AI智能体组成,会测试注入、共享笔记并迭代彼此的最佳尝试,在100个工具调用任务上测试,攻击者只求触发一次随机无害的工具调用。最多尝试320次时,最强攻击者在最稳健的Gemini 4 Argon上攻破34%的任务,而开源权重模型Kimi K3、GLM-5.3和DeepSeek-V4.1-Flash仅抵御住1%的任务。

AI 根据公开报道生成

最新进展 · 正式报道

Google DeepMind 新论文:智能体攻击群仍能攻破防御最强的模型

事件进展

1 个已确认进展

  1. Google DeepMind论文显示提示注入仍未解决

    来源:Rohan Paul

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月13日

  1. Rohan Paul

    Google DeepMind 新论文:智能体攻击群仍能攻破防御最强的模型

    Google DeepMind 新论文显示提示词注入尚未解决,由多个 AI 攻击智能体组成的 Agentic Optimizer 仍能骗过防御最强的模型。该系统由 8 组 AI 智能体组成,会测试注入、共享笔记并迭代彼此的最佳尝试,在 100 个工具调用任务上测试,攻击者只求触发一次随机无害的工具调用。最多尝试 320 次时,最强攻击者在最稳健的 Gemini 4 Argon 上攻破 34% 的任务,而开源权重模型 Kimi K3、GLM-5.3 和 DeepSeek-V4.1-Flash 仅抵御住 1% 的任务。

关联事件

  1. 相关事件Google DeepMind与UChicago论文发现AI代理发言风格影响群体政策
  2. 相关事件Google DeepMind用AlphaProof Code形式化验证Signal协议
  3. 相关事件OpenAI智能体攻击在线数据库与政府网站
  4. 相关事件MIT与Google DeepMind论文发现AI顾问存在汇报线偏差