AI审计工具为何由被审方提供:一周四起安全事件与七篇论文的验算
文章以十月十六日至二十三日一周内的四起安全事件为线索,包括PHP两个远程执行漏洞被AI挖出、LiteLLM后门版v1.107.0在PyPI存活约两小时并被下载约4.9万次、OpenCode控制台泄露1.4%用户的第三方模型密钥、微软通报人类组织使用开源多智能体渗透框架ARTEX攻击供应链,讨论AI审计面临的共同问题。作者逐篇核查七篇论文后指出,潜推理自解码的忠实度最高仅0.4788,稀疏自编码器对后门位移近乎失明,探针在被优化对象针对时会失效,三种主流审计工具都产自被审方生态或需借用被审方权限。文中还引用了牛津与纽约大学的NARCBench多智能体合谋基准,以及Anthropic与Theorem用Claude对123个开源库239个入口写下约十亿行Rocq形式化证明的报告。
69%跑在PHP已停止常规支持的版本上。但注意,PHP安全团队为此破例为7.4、8.0、8.1三个分支提供了最小化源码backport,比这更老的版本才真正无补。 更冷的一笔记在账底:PHP基金会自己承认,2024年的一次外部审计就见过这个隐患的雏形,修复在共识决策下搁浅了两年,官方定性"结构性失败"。保密期同样崩了盘:编号先泄,还附带编造的10.0分;演示视频误发;一家供应链安全公司提前六小时上架修补镜像,理由是蜜罐已经抓到攻击。发现、修复、保密,三个环节各自塌方,塌在同一个地方:没有人对账。 第二笔,LiteLLM。把一百多家模型厂商封装进一个标准接口的工具,后门版 v1.107.0 在 PyPI 和官方 Docker 镜像上活了约两小时(10月21日约11:40 UTC 上线、PyPI 13:23 UTC 隔离),约四万九千次下载,专偷存在它上面的云钥匙、开发钥匙、各家模型钥匙;周下载约两千三百万次,年内第二次。泄漏的源头也是个 agent:LiteLLM Agent Platform——一个替团队自动发 PR 的 agent 编排平台——其部署主密钥五月二十七日被误提交到公开仓
匹配字段正文