论文发现约 1/17 的 Agent 技能要求跳过人工确认,现有扫描器漏检多数
This paper finds that about 1 in 17 agent skills tells agents to skip human checks, and existing skill scanners miss most of them.
一篇论文分析 GitHub 公开仓库中 153 万个英文 Agent 技能文件,发现约 8.8 万个技能含有要求跳过人工确认的语句,其中 70.1% 的这类语句在所有场景下都生效,而非仅限 CI 等特定场景。研究测试了 Cisco 和 NVIDIA 的两个可调用 GPT-5.4 的开源扫描器,它们最多只检出 46%,精度低于 0.4;而让同一 LLM 从监督缺失而非恶意意图的角度检测,检出率为 61%,精度 0.71。作者建议把技能中的“不要询问”类语句限定在具体场景,并按监督缺失而非仅按恶意软件来筛查技能。
正文 · AI 翻译
本文发现,大约每17个Agent技能中就有1个会指示Agent跳过人工检查,而现有的技能扫描器会漏掉其中大部分。
Agent技能是共享的SKILL.md指令文件,Agent会按需加载。像“无需确认即可推送”或“一直执行到完成为止”这样的一行文字,就会让每一个加载它的Agent失去一个人工检查点。
他们分析了来自公开GitHub仓库的153万个英文技能,然后测试了来自Cisco和NVIDIA的两个可调用GPT-5.4的开源扫描器。
大约8.8万个技能包含此类语句,其中70.1%的这类语句在所有场景下都生效,而不仅限于CI等场景。这些扫描器最多只检出46%,精度低于0.4;而让同一个LLM从监督缺失而非恶意意图的角度进行检测,检出率为61%,精度为0.71。
请将你技能中每一句“不要询问”类语句限定在具体场景中,例如仅限CI,并按监督缺失而非仅按恶意软件来筛查技能。