PromptArmor 发布企业智能体安全基准 FrontierBreach
We wanted tasks where agents must navigate adversarial content while attempting to produce high-value deliverables.
AI 导读
PromptArmor 发布 FrontierBreach,用于衡量真实企业智能体工作流中的攻击成功率,并覆盖勒索软件、数据窃取和网络钓鱼等后果。该基准将不可信文件、邮件和技能等间接提示词注入载体加入 GDPval 任务,覆盖九个行业。医疗与社会援助工作流的攻击成功率为 44.4%,高于 34.9% 的基准平均值。
推荐理由
精选AI 评分 69
该基准把间接提示词注入嵌入九类行业工作流,为比较企业智能体在不同攻击链中的风险暴露提供了具体框架。
主题
正文 · AI 翻译
我们希望设计这样的任务:智能体必须在试图产出高价值成果的同时,应对对抗性内容。
为此,我们率先提出了“Attack Soul”概念,并开创了一种可用于任何现有评测基准的合成注入生成技术。
在我们的旗舰基准中,我们针对 GDPval 中各个行业的智能体任务,注入了提示词注入攻击的常见投递载体(如不可信文件、电子邮件和技能)。
AI 热点