AI News

Google 发现攻击者使用全自动漏洞利用流水线

Unite.AI更新于 11月16日 23:42

Google Finds Attackers Using Fully Autonomous Exploit Pipelines

AI 导读

Google 威胁情报组(GTIG)与 Mandiant 在 11 月 16 日发布的季度 AI 威胁追踪报告中称,首次发现威胁行为者用大语言模型框架全自动完成漏洞发现与利用,无需人工介入。其中一个案例是暴露的暂存服务器上运行的多智能体漏洞研究与武器化框架 exploit_agent,它整合多个前沿与本地 LLM,持续比对热门 Web 应用软件补丁公告前后的代码差异、分析潜在漏洞、起草并自动执行利用。报告还提到多个攻击者滥用 ARTEX、CAIRN、CyberStrikeAI、PentAGI 等开源智能体渗透测试框架,并记录了 LLMJacking 资源盗用与 LLM Mixers 地下市场,单日欺诈账单最高超过 10 万美元。

推荐理由

精选AI 评分 80

报告披露了首个全自动漏洞挖掘与利用框架的实例,并给出攻击窗口缩短与取证痕迹并存的具体观察。

主题

标签

正文 · AI 翻译

Google 威胁情报组(GTIG)与 Mandiant 联合制作、于 2026 年 11 月 16 日发布的季度 AI 威胁追踪报告称,GTIG 首次发现威胁行为者利用大语言模型框架,在无需人工介入的情况下全自动完成漏洞发现与利用。

其中一个详细案例是一台暴露在外的暂存服务器,其上托管着一个多智能体漏洞研究与武器化框架,GTIG 将其命名为 exploit_agent。该框架整合了多个前沿大语言模型和本地大语言模型,被配置为持续比对热门 Web 应用软件在补丁公告前后的代码,分析差异以寻找潜在漏洞,起草漏洞利用代码,并自动执行这些利用。

该服务器还存有从目标受害者处窃取的数据,以及用于内部侦察、暴力破解、安装 webshell 和清除其他攻击者留下的 webshell 的脚本。受害者遥测数据表明,操作者尤其关注与媒体和娱乐行业以及教育部门相关的法国网站。俄语配置注释中提到了用于自主利用的 LLM API 密钥。

补丁分析与利用窗口

GTIG 表示,攻击者可能会发现,已修补的 n-day 漏洞(即修复程序已发布的缺陷)比零日漏洞更高效,因为可用的研究材料是有限的。智能体可以比对源代码版本(包括预发布或预览渠道),并检查与特定缺陷相关的发布说明、安全研究和概念验证代码。而对先前未知的零日漏洞的研究则需要更广泛的搜索。

将差分补丁检查与概念验证武器化自动化,可以缩短从补丁披露到武器化利用之间的间隔。更低的入门门槛还带来第二个影响:GTIG 表示,大语言模型助长了那些被描述为可用、实则无效的漏洞利用代码的产生,这给防御者带来了额外的验证工作,他们必须区分可用的攻击代码与虚假的声称。

exploit_agent 的发现是从手动提示向多智能体入侵工具转变这一更广泛趋势的一部分。GTIG 与 Mandiant 观察到多个威胁行为者滥用开源智能体渗透测试框架,包括 ARTEX、CAIRN、CyberStrikeAI 和 PentAGI,在实时入侵过程中将各个阶段和操作任务自动化。这些框架的共同能力包括发现并利用低复杂度漏洞、按需生成一次性载荷,以及根据实时执行反馈调整战术。

GTIG 独立观察到 CAIRN 和 PentAGI 被部署于真实环境中,同时还观察到对 CyberStrikeAI 和 HexStrike AI 的试验。CAIRN 通过“观察、定向、决策、行动”循环和共享黑板来协调专用智能体。GTIG 在针对包括美国航空航天部门在内的目标的入侵活动中观察到了它。2026 年 8 月下旬至 10 月初,一名威胁行为者使用基于 PentAGI 定制的编排平台,对亚洲范围内广泛的组织进行了系统性侦察和漏洞扫描。

这些框架可以将攻击时间线压缩至机器速度,但 GTIG 评估认为,它们目前是以隐蔽性换取速度。不受限制的自主执行会产生取证流量、使用可识别的标识符,并留下独特的代码级痕迹。这些痕迹有助于检测和缓解,尽管这些工具仍能实现其作战目标。

报告还记录了一个涉及受侵云和 AI 资源的市场。在整个 2026 年,Mandiant 响应了多起 LLMJacking 事件,其中以经济利益为动机的行为者利用受侵云环境消耗受害者的算力或 LLM 资源配额。Mandiant 报告称,部分单日欺诈账单超过 10 万美元,最严重的累计滥用金额在修复前达到 100 万美元。

GTIG 还在追踪 LLM Mixers,即出售 LLM 服务未授权访问权限及配套代理基础设施的非法店面。它们通过池化的窃取凭据和算力实例路由买家流量,并可将查询量分散到多个受害者环境以降低被检测的风险。GTIG 观察到,在俄语和中文地下市场上,广告价格从每百万 token 0.10 美元到 25 美元不等,具体价格取决于所提供服务、模型和凭据。

这些发现指向一个近期防御难题:速度与规模。公开补丁可为自动化漏洞利用开发提供比对材料,而被窃取的凭据和代理服务则可提供对 AI 算力的访问。这些自动化操作同时也会留下取证痕迹并产生不可靠的漏洞利用代码,从而为防御者提供检测机会,尽管他们面临着更短的利用窗口和更多需要验证的材料。

来源

Unite.AI