AI News

Google GTIG 报告称 AI 框架已能无人在环将安全补丁转为漏洞利用

SiliconANGLE更新于 11月16日 22:44

Google says an AI framework turned security patches into exploits with no human in the loop - SiliconANGLE

AI 导读

Google 威胁情报组(GTIG)在季度报告中称,首次观测到攻击者使用无人在环的 AI 框架 exploit_agent 将安全补丁转为可执行漏洞利用。该框架部署在一台暴露的暂存服务器上,接入多个前沿模型和本地托管大语言模型,持续比对热门 Web 应用代码在补丁发布前后的差异,识别出疑似缺陷后自动执行生成的利用代码。报告还提到,同一服务器上存有受害者数据以及暴力破解、安装 webshell 等脚本,受害者遥测显示操作者主要针对法国媒体、娱乐和教育网站。

推荐理由

精选AI 评分 81

报告给出无人在环的漏洞利用框架实例,并对比上一季度尚未观测到全自主攻击链的变化。

主题

标签

正文 · AI 翻译

Google LLC 旗下 Google 威胁情报组(GTIG)今日发布的一份新报告发现,攻击者首次使用了一个无人在环运行的人工智能框架,将安全补丁转化为漏洞利用。

该框架名为 exploit_agent,出现在一台暴露的暂存服务器上,并被接入多个前沿大语言模型和本地托管的大语言模型。据 GTIG 称,它的职责是在每次补丁公告前后持续比对热门 Web 应用代码。一旦识别出可能的缺陷,它起草的漏洞利用就会被自动执行。

从受害者处获取的数据就存放在同一台服务器上,此外还有用于暴力破解、安装 webshell 乃至清除竞争对手攻击者留下的 webshell 的脚本。受害者遥测数据表明,操作者最感兴趣的是与媒体、娱乐和教育相关的法国网站。该框架配置文件中有一条用俄语写成的注释,告诉搭建者要把密钥填在“这里,而不是聊天里”。

在两个月前的上一期季度追踪报告中,GTIG 表示尚未观察到针对真实目标部署的全自主攻击流水线。根据这份题为《Agentic Threat Activity Crosses a Significant Threshold》的新报告,过去一个季度情况发生了变化。由于已修补漏洞的源材料是有限的,GTIG 认为,攻击者可能会发现,让大语言模型针对 n-day 漏洞比寻找零日漏洞更高效。

PaperCut Software Pty Ltd. 打印管理服务器中两个漏洞的案例显示了从披露到可用漏洞利用之间的间隔能缩短到多快:这两个漏洞被串联起来,并于 8 月下旬作为零日漏洞被利用。安全研究人员和 Huntress Labs Inc. 使用大语言模型在披露后一天内生成了可用的漏洞利用。

GreyNoise Intelligence Inc. 在披露四天后追踪到的一场活动被认为依赖大语言模型构建其漏洞利用,随后它袭击了数百个组织。GreyNoise 发现,该活动中有一个立足点几分钟内就抵达了域管理员权限。

在其他地方,开源 agentic 渗透测试框架正被用于自动化实时入侵的各个离散步骤。在对美国航空航天领域的一次入侵中,观察到一名威胁行为者使用了多智能体框架 CAIRN。

另一名行为者在 8 月下旬至 10 月初期间运行了一个基于 PentAGI 构建的定制平台,扫描亚洲范围内广泛的组织以寻找漏洞。就目前而言,据称不受限制的自主执行留下的嘈杂取证痕迹使这些框架更容易被检测到。

据 GTIG 称,影响力行动现在使用模型远不止于撰写帖子。利用云手机农场——一家商业承包商在 Gemini API 帮助下正在构建的交钥匙平台——被设计用于运行超过 10 万个社交媒体账户。为了让生成的照片看起来像智能手机拍摄的照片,另一个针对欧洲和中东政治情绪的平台背后的提示词据称要求刻意加入相机缺陷。

在政府支持的行为者中,一个被追踪为 UNC6836 的疑似朝鲜组织使用虚假招聘者资料接触北美和欧洲的加密货币组织,这些资料上的照片被发现带有 Google 的 SynthID 水印。该组织后来通过篡改内部代码仓库中的 .claude/settings.json 文件,使 Anthropic PBC 的 Claude Code 每次启动时都会下载其后门 SOMBERMEME。

Google 表示,已禁用了与其发现的 Gemini 滥用行为相关的账户和资产。Google DeepMind 也已利用这些发现来强化其分类器。

图片:SiliconANGLE/GPT Image 2.6

来源

SiliconANGLE