AI Trends

Google Discovers Russian-Annotated AI Hacking Tool Capable of Autonomous Operation

cnBetaUpdated Nov 18 18:42

English text is being prepared.

AI summary

Google's Threat Intelligence Group has for the first time discovered threat actors leveraging large language model frameworks to achieve full automation of vulnerability discovery and exploitation without human intervention. The tool monitors software patch updates, compares code differences to pinpoint vulnerabilities, and automatically writes exploit code, while also possessing internal reconnaissance and brute-force capabilities. The report notes a significant increase in zero-day exploitation incidents in 2026, with open-source AI attack tools such as CAIRN and PentAGI also being used in actual intrusions.

Why read this

AI score 68

Google reveals the first fully automated vulnerability exploitation AI tool, exposing how LLMs are being used to automate cyberattacks.

Topics

Tags

Body

该工具接入了多个大语言模型(LLM),即聊天机器人背后的人工智能技术,包括领先的商业模型以及谷歌所称的“本地”模型。

随后,该工具会监控热门网络软件的补丁更新,即软件开发商为修复漏洞而发布的更新。

一旦有新补丁发布,工具便会比较修复前后的程序代码,以确定漏洞所在的位置。这类似于比较一份文档的两个版本,查看编辑人员修改了哪些内容,而这些改动就能揭示问题所在。

之后,该工具会自动编写用于利用漏洞的攻击代码,并自动执行。

谷歌表示,这是该公司首次发现攻击者采用这种方式开展攻击。

报告称:“在过去一个季度,谷歌威胁情报小组首次发现,威胁行为者利用大语言模型框架,在没有人类参与的情况下,实现了漏洞发现和利用的完全自动化。”

美联储理事迈克尔·巴尔(Michael Barr)周一表示,自主AI智能体可能在几分钟内引发银行挤兑。

今年9月,阿波罗全球管理公司首席经济学家托斯滕·斯洛克(Torsten Slok)警告称,如果AI助手自动将家庭资金转移至收益率更高的账户,银行可能因此流失大量低成本存款。

谷歌报告中的一张图片显示,该工具正在检查WordPress插件Spectra(Ultimate Addons for Gutenberg)2.19.25版本的访问控制机制。

访问控制是指决定不同用户能够执行哪些操作的代码。报告并未说明此次漏洞检查是否最终导致实际攻击。

这台预发布服务器还存储了其他脚本,可在攻击者突破网络防御后绘制内部网络结构,谷歌将其称为“内部侦察”。

这些脚本还能够通过反复尝试大量密码进行所谓的“暴力破解”,并在网站上植入WebShell,即隐藏的远程控制程序,使攻击者能够在日后重新访问受感染系统。

谷歌还在同一台服务器上发现了从受害者处窃取的数据。相关记录显示,该工具的操作者可能曾针对法国媒体、娱乐和教育行业的网站发动攻击。

API密钥类似于密码,允许软件访问人工智能服务。

谷歌对相关俄语注释的翻译为:“用于自动漏洞利用的LLM API密钥(exploit_agent试点项目)”,以及“请自行输入密钥——就在这里,不要在聊天中输入。两行内容均为必填项。”

这一发现符合谷歌此前描述的更广泛趋势。

2026年1月至8月期间,漏洞披露和漏洞利用事件总数几乎翻了一番。

零日漏洞利用,即针对软件开发商尚未知晓的漏洞发动的攻击,在2025年平均每月发生8起,2026年平均每月增至11起,并在8月激增至22起。

谷歌还表示,已发现名为CAIRN和PentAGI的开源AI攻击工具被用于实际网络入侵活动。

Source

cnBeta