AI审计工具为何由被审方提供:一周四起安全事件与七篇论文的验算
文章以十月十六日至二十三日一周内的四起安全事件为线索,包括PHP两个远程执行漏洞被AI挖出、LiteLLM后门版v1.107.0在PyPI存活约两小时并被下载约4.9万次、OpenCode控制台泄露1.4%用户的第三方模型密钥、微软通报人类组织使用开源多智能体渗透框架ARTEX攻击供应链,讨论AI审计面临的共同问题。作者逐篇核查七篇论文后指出,潜推理自解码的忠实度最高仅0.4788,稀疏自编码器对后门位移近乎失明,探针在被优化对象针对时会失效,三种主流审计工具都产自被审方生态或需借用被审方权限。文中还引用了牛津与纽约大学的NARCBench多智能体合谋基准,以及Anthropic与Theorem用Claude对123个开源库239个入口写下约十亿行Rocq形式化证明的报告。
26,跨模型3.24/3.72)、公允面原话(Conclusion与Discussion)、分类器精度召回原文未载。作者自测。 《Watch the Weights: Unsupervised monitoring and control of fine-tuned LLMs》:arXiv:2508.00161,CMU(Ziqian Zhong、Aditi Raghunathan)。v1 挂库 2025年7月31日,v3(ICLR 2026 定稿版)2026年4月21日(按 ICLR 2026 正式论文计入二〇二六年工作)。ICLR 2026 终稿口径:触发输入下拦下最高100%攻击、良性FPR<1%(摘要直认);v1 初版曾报 13模型 flag 率 44%–100%、FPR 1.2%(§1),本文正文已按 v3 终稿修订。TABLE 3检出率98.72%–100%(2% FPR口径,Rando et al. 2024的PPO模型,v3 一致)、激活方法受固定数据集限制(§1/§2.2,本文核心论点;SAE处引Wu et al. 2025佐证,转引)。作者自测。 《Detecting
匹配字段正文