AI Trends

Google Warns That Fully Automated AI Cyberattacks Have Entered a New Phase

cnBetaUpdated Nov 17 14:11

English text is being prepared.

AI summary

Google's Threat Intelligence Group (GTIG) reported that it has for the first time observed threat actors using large language model frameworks to complete vulnerability discovery and exploitation with no human involvement at all, and predicted that within the next three months hackers will be able to launch low-barrier attacks requiring almost no human effort. The report named open-source penetration testing platforms such as CyberStrikeAI, PentAGI, and CAIRN as being misused, and also mentioned a multi-agent system called exploit_agent that carried out automated attacks on French media, entertainment, and education websites. Google recommends that enterprises promptly patch internet-facing systems and shorten patch deployment intervals, and introduced the Big Sleep security agent and the AI Threat Defense architecture used for defense.

Why read this

AI score 78

Google's threat intelligence team has laid out a timeline for AI agents to automatically find and exploit vulnerabilities, and named attack frameworks that have already emerged, which security teams can use as a reference when assessing patch windows.

Topics

Tags

Body

报告显示,攻击者如今能够借助AI代理系统自动执行漏洞挖掘、分析和利用等环节,大幅缩短攻击准备时间并提升行动效率。GTIG研究人员预测,在未来三个月内,黑客将有能力发起几乎不需要人工参与的低门槛网络攻击,大部分流程都可由AI代理自主完成。

研究人员发现,网络犯罪分子正在大量利用合法的开源渗透测试工具和框架实施攻击,其中包括CyberStrikeAI、PentAGI以及CAIRN等平台。就在此前不久,美国联邦调查局(FBI)也曾发出警告,指出名为ARTEX的AI驱动渗透测试平台正被威胁组织用于自动化攻击全球范围内的企业和机构。

GTIG表示,在最近一个季度中,研究团队首次观察到威胁行为者利用大型语言模型框架,在完全没有人工参与的情况下完成漏洞发现和利用全过程。这意味着自动化网络攻击已经跨越重要门槛,进入新的发展阶段。

报告举例称,研究人员发现黑客正在使用一种名为“exploit_agent”的多智能体AI系统,对法国媒体、娱乐和教育类网站进行自动化攻击。该系统能够持续分析主流网络应用的软件更新内容,从中寻找潜在安全漏洞,并自动尝试发起利用。

Google指出,这类框架的出现极大压缩了安全团队修补漏洞的时间窗口。过去,安全人员往往拥有较为充裕的时间来部署更新和修复漏洞;而在AI自动化工具的帮助下,攻击者能够更快将已知漏洞武器化,从而迅速发起攻击。不过,Google也表示,这些系统有时会产生误判或无效攻击线索。

GTIG认为,攻击者对这类框架的采用标志着网络入侵模式正在发生重大转变。虽然入侵的基本原理没有改变,例如窃取凭据或利用未修补系统等传统手段仍然存在,但自动化框架能够以“机器速度”串联复杂攻击链,并在更大规模上开展行动,这给网络防御工作带来了前所未有的新挑战。

针对这种趋势,Google强调企业应尽快修补面向互联网开放的系统,并尽可能缩短补丁发布到正式部署之间的时间。报告认为,与主动寻找全新漏洞相比,攻击者如今更倾向于快速利用已经公开披露但尚未修补的漏洞,因此保持系统持续更新仍然是提升安全性的最有效措施之一。

与此同时,Google认为AI不仅正在被用于进攻,同样也应被用于防御。该公司提到了名为“Big Sleep”的AI安全代理,它能够主动寻找已知软件漏洞并协助修复问题。Google还介绍了其AI Threat Defense安全架构,该方案结合AI模型、风险优先级分析以及自动化修复能力,以更快速度监测并应对网络威胁。

业内人士认为,随着AI驱动攻击工具不断成熟,网络安全领域正在进入攻防双方同时依赖人工智能的新阶段。未来企业不仅需要面对自动化攻击规模扩大带来的压力,也必须借助更先进的AI防护体系来应对持续升级的网络风险。

Source

cnBeta