PromptArmor 发布企业智能体安全基准 FrontierBreach
Across nine industries, we tested indirect prompt injection during the kinds of work enterprises delegate to agents, from preparing nursing care plans to produc
AI 导读
PromptArmor 发布 FrontierBreach,用于评估九个行业企业智能体工作流遭受间接提示词注入时的攻击成功率。测试涵盖护理计划、工程蓝图和法律文书等任务,其中医疗与社会援助工作流的攻击成功率最高,为 44.4%,较基准平均值 34.9% 高出近 10 个百分点。该基准通过不可信文件、邮件和技能等常见载体注入攻击内容,并覆盖勒索软件、数据外泄和网络钓鱼等后果。
正文 · AI 翻译
我们在九个行业中,针对企业委托给智能体的各类工作测试了间接提示词注入,涵盖制定护理照护计划、绘制工程蓝图以及起草法律文书等任务。
在 FrontierBreach 中,医疗与社会援助工作流的攻击成功率最高,达到 44.4%,比 34.9% 的基准平均值高出近 10 个百分点。
AI 热点