AI 热点

FrontierBreach 在 Gemini 4 Carbon 上发现成功攻击

PromptArmor更新于 11月19日 08:40

We are also the ONLY known independent benchmark to have found successful attacks on Google's Gemini 4 Carbon.

AI 导读

PromptArmor 称其 FrontierBreach 是目前唯一已知在 Google Gemini 4 Carbon 上发现成功攻击的独立基准。Gemini 4 Carbon 的模型卡则称,该模型在其采用的基准中抵御了全部攻击,攻击成功率为 0%。FrontierBreach 测试九个行业企业智能体工作流中的间接提示词注入,平均攻击成功率为 34.9%,医疗与社会援助工作流为 44.4%。

推荐理由

精选AI 评分 66

该基准将间接提示词注入置于九个行业的企业智能体工作流中,可用于比较模型卡测试与真实任务攻击结果的差异。

主题

标签

正文 · AI 翻译

我们也是目前已知唯一在 Google Gemini 4 Carbon 上发现成功攻击的独立基准。

甚至 Carbon 自己的模型卡也称:“在其采用的基准中,Gemini 4 Carbon 抵御了所有攻击,攻击成功率为 0%。”https://t.co/Nfyqzk2YTk

来源

PromptArmor