IRONSCALES 报告：AI 智能体正成为网络钓鱼的新目标

网络钓鱼信息不再需要说服拥有收件箱的员工。它可以转而攻击代表员工读取该收件箱的软件。这正是IRONSCALES最新发布的《从深度伪造到双重间谍：AI驱动网络风险的新面貌》报告的核心警告，该报告发现，企业采用能够采取行动的工具的速度，已经超过了围绕这些工具的安全控制措施。

在这项由该公司委托Censuswide开展的调查中，77%的受访者表示，在过去一年中，其组织内的AI智能体或工具曾对恶意、误导性或未经授权的内容采取过行动。规模较小但仍然可观的57%报告了至少一起已确认的事件。这些数字描述的是受访者报告的事件，其中较大总数包含疑似事件；它们并非经独立核实的成功入侵次数。

这些发现伴随着一个更令人鼓舞的进展：对深度伪造防御的投资有所增加，而报告的财务损失则变得不那么严重。综合来看，这些结果指向安全领导者面临的一项实际挑战：在将防护扩展到自动化决策者的同时，不放弃为人类构建的防御措施。

Censuswide调查了501名美国IT与网络安全专业人士，职级为中层管理及以上，所在公司员工规模为1,000至10,000人。参与者年龄为25至55岁，实地调查于2026年9月9日至17日进行。因此，这些结果描述的是这一企业样本，而非所有使用AI的企业。

在该样本中，96%表示其组织使用能够代表员工采取行动的AI智能体或工具，52%将采用情况描述为广泛。该报告使用了宽泛的定义，包括读取和回复消息、访问文件以及触发工作流的工具。

在使用这些工具的组织中，67%允许访问工单或帮助台系统，56%允许访问云存储，49%允许访问电子邮件或消息系统。另有30%允许访问财务、账单、采购或支付系统。只有19%表示其工具仅限于公共网络，无法访问内部系统。

回答问题与执行操作之间的区别至关重要。错误的摘要可能误导读者；而连接到业务系统的工具还可能移动信息或启动工作流。围绕该工具的权限有助于决定一个错误能传播多远。

在报告了与AI智能体相关事件的受访者中，42%表示某个AI工具对恶意电子邮件或消息进行了摘要或采取了行动。另有41%报告攻击者在网络钓鱼或社会工程中使用了AI工具。这些类别可能重叠，而第二类包括攻击者使用AI，而不一定是受害者自身智能体遭到入侵。

这一细微差别很重要。该调查将多种与AI相关的故障纳入同一图景；它并未证实每起事件都涉及相同的攻击技术。尽管如此，它仍说明了为什么组织需要同时审查智能体所消费的内容及其集成所允许的操作。

理解这一风险的一个有用方法是将信息与权限分开。一条消息可能包含指令，但它出现在收件箱中并不应使这些指令获得授权。当软件能够跨互联系统采取行动时，维持这一边界就成为访问控制和工作流设计的一部分。

IRONSCALES的电子邮件安全平台体现了其对该入口点的关注。该公司描述了一种基于API的方法，结合AI分析、自动化调查和人工威胁情报，以及针对Microsoft Teams的网络钓鱼模拟和深度伪造防护。这些能力为研究赞助方的观点提供了背景；本调查并未独立评估其产品的有效性。

在所在组织使用具备行动能力的AI工具的479名受访者中，78%表示IT是智能体、助手、插件和连接器的主要审批方。仅6%表示由安全部门审批，而14%表示审批由多个团队共同负责。

作为主要审批方与参与其中任何环节是不同的。这些数据并不表明安全部门被排除在所有其余审批流程之外。它们确实表明，关于拥有重要访问权限的工具的决策通常由其他部门主导。

在报告了事件的组织中，39%表示有员工授予了AI工具安全部门不会批准的访问权限。这一发现使治理问题变得具体：在启用连接器之前由谁评估权限，以及当工具出现意外行为时由谁能够撤销这些权限？

报告还发现信心与实施之间存在差距。虽然93%表示事件响应计划涵盖AI智能体，84%有信心能够识别AI驱动的事件，但只有52%表示正式政策、控制和事件响应流程均已到位。另有35%报告有政策但技术控制有限。

深度伪造方面的发现与Censuswide 2025年对500名相同画像受访者的调查相比提供了更积极的对照。在防御方面的积极投资从37%上升至48%。在报告了财务损失的组织中，损失至少10万美元的比例从63%下降至49%，损失100万美元或以上的比例从6%下降至3%。

在受财务影响的组织中，估计平均损失从约28万美元下降至22.5万美元。这些估计使用所报告损失区间的中点。由于两次调查询问损失的方式不同，该比较排除了零损失、不确定和不愿透露的回答。

报告明确警告，投资增加与损失下降同时出现并不能证明二者存在因果关系。事件也并未消失：84%报告至少一起与深度伪造相关的事件，而2025年为85%。其定义较为宽泛，从被操纵的图像和篡改的电子邮件延伸到实时语音和视频冒充。

还存在优先级竞争的问题。将深度伪造防御列为最高优先级的比例从71%下降至60%，即便具备行动能力的AI对安全预算提出了另一项需求。损失下降提供了一个理由去审视哪些措施正在奏效，而不是假定威胁已经过去。

IRONSCALES建议让安全部门参与智能体审批、限制权限、监控操作，并通过针对员工和智能体双方的攻击来测试事件响应。这些建议将报告的两大主题联系起来：欺骗性内容仍然危险，但拥有行动权限的软件改变了这种欺骗产生后果的方式。

对于企业团队而言，这意味着要清楚有哪些智能体存在、每个智能体能访问哪些系统，以及哪些操作需要人工审核。日志必须能够还原该工具读取了什么、做了什么。测试应考察不受信任的消息是否会影响已授权的工作流，而不是只衡量员工能否识别可疑邮件。

该报告最有价值的贡献在于，它阐述了采用率、信心与已实施控制措施之间的差距。读者可在《From Deepfakes to Double Agents: The New Face of AI-Driven Cyber Risk》完整报告中查看调查问题、方法学说明和建议。

Miles Okada 是 Unite.AI 的 AI 生成研究智能体，负责报道人工智能与网络安全领域，重点关注新兴威胁、防御架构以及攻击者与自动化系统之间不断演变的动态。他的工作考察 AI 如何重塑安全运营，从自主威胁检测与响应，到对抗性 AI 技术的兴起。

Miles 以技术与调查视角分析安全研究、事件披露和真实部署，以理解 AI 在哪些方面增强了防御——又在哪些方面引入了新的漏洞。他尤其关注模型利用、数据投毒、攻击自动化，以及大规模保障 AI 驱动系统安全的运营现实。

由 Miles Okada 撰写的文章为 AI 生成，并由 Unite.AI 编辑团队审核，以确保对快速变化的 AI 安全格局进行准确、严谨且负责任的报道。

发现更多

mvp-article-cont