AI 热点

热点事件 持续更新

PromptArmor发布智能体工作流安全基准FrontierBreach

7 篇正式报道7 条事件动态更新于 11月19日 02:20

先了解这件事

事件摘要

还没有公开综述,先看下面的报道时间线。

最新进展 · 正式报道

PromptArmor 发布企业 AI 智能体安全基准 FrontierBreach

事件进展

1 个已确认进展

  1. PromptArmor发布智能体工作流安全基准FrontierBreach

    来源:PromptArmor

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

11月19日

  1. Testing Catalog

    PromptArmor 发布企业 AI 智能体安全基准 FrontierBreach

    PromptArmor 发布 FrontierBreach,用于评测企业 AI 智能体工作流遭隐藏指令误导的频率。在21个 AI 模型的测试中,攻击成功率为34.9%;各前沿模型均被攻破,其中 Gemini Argon 为4.3%、Muse Wonder 为15.2%、Grok 4.5 为91.4%。隐藏在智能体技能中的攻击成功率为45.5%。

  2. PromptArmor一手精选

    FrontierBreach 基准揭示企业 AI 智能体工作流的攻击成功率差异

    PromptArmor 发布 FrontierBreach,评测企业 AI 智能体工作流中的间接提示词注入攻击,九个行业的平均攻击成功率为 34.9%,医疗与社会援助工作流达到 44.4%。中国模型的平均 ASR 高于美国模型,差异主要来自任意代码执行、网络钓鱼和数据破坏任务;它们在数据窃取、勒索软件和持久化攻击中也表现出更高的攻击成功率。

  3. PromptArmor一手精选

    PromptArmor 发布企业智能体攻击基准 FrontierBreach

    PromptArmor 发布 FrontierBreach,用于衡量现实企业智能体工作流中的攻击成功率,并覆盖勒索软件、数据窃取和网络钓鱼等后果。在九个行业的间接提示词注入测试中,医疗保健与社会援助工作流的攻击成功率为 44.4%,高于 34.9% 的基准平均值。PromptArmor 还称该基准成功攻击了 Gemini 4 Carbon,并观察到中美模型在不同攻击类型上的表现差异。

  4. PromptArmor一手精选

    FrontierBreach 在 Gemini 4 Carbon 上发现成功攻击

    PromptArmor 称其 FrontierBreach 是目前唯一已知在 Google Gemini 4 Carbon 上发现成功攻击的独立基准。Gemini 4 Carbon 的模型卡则称,该模型在其采用的基准中抵御了全部攻击,攻击成功率为 0%。FrontierBreach 测试九个行业企业智能体工作流中的间接提示词注入,平均攻击成功率为 34.9%,医疗与社会援助工作流为 44.4%。

  5. PromptArmor一手

    PromptArmor 发布企业智能体安全基准 FrontierBreach

    PromptArmor 发布 FrontierBreach,用于评估九个行业企业智能体工作流遭受间接提示词注入时的攻击成功率。测试涵盖护理计划、工程蓝图和法律文书等任务,其中医疗与社会援助工作流的攻击成功率最高,为 44.4%,较基准平均值 34.9% 高出近 10 个百分点。该基准通过不可信文件、邮件和技能等常见载体注入攻击内容,并覆盖勒索软件、数据外泄和网络钓鱼等后果。

  6. PromptArmor一手精选

    PromptArmor 发布企业智能体安全基准 FrontierBreach

    PromptArmor 发布 FrontierBreach,用于衡量真实企业智能体工作流中的攻击成功率,并覆盖勒索软件、数据窃取和网络钓鱼等后果。该基准将不可信文件、邮件和技能等间接提示词注入载体加入 GDPval 任务,覆盖九个行业。医疗与社会援助工作流的攻击成功率为 44.4%,高于 34.9% 的基准平均值。

  7. PromptArmor一手

    PromptArmor 发布企业智能体安全基准 FrontierBreach

    PromptArmor 发布 FrontierBreach,用真实企业工作流及复杂攻击链评估 AI 智能体遭受间接提示注入时的攻击成功率。该基准覆盖 9 个行业,平均攻击成功率为 34.9%,医疗与社会援助工作流最高,达到 44.4%。测试场景涉及勒索软件、数据外泄、网络钓鱼等后果,并包含不可信文件、邮件和技能等提示注入载体。

关联事件

  1. 相关事件OpenAI发布GPT-6 Astra模型
  2. 相关事件OpenAI智能体攻击在线数据库与政府网站
  3. 相关事件OpenAI发布GPT-6.2 Astra与Sol,ARC Prize公布满分成绩
  4. 相关事件Anthropic推出Claude Fable 5.2与Claude Mythos 5.2