Be Alert to AI Exacerbating Financial Cybersecurity Risks
English text is being prepared.
Multiple banks and financial institutions in South Korea have successively experienced personal information leaks. Regulators assess that attackers used AI tools to automatically change IPs and scan for vulnerabilities in bulk, involving ARTEX and large language models assisting in executing some tasks. During the relevant period, a total of 16 financial institutions reported security incidents, approximately 100,000 customer information records were leaked, 555 institutions completed 12 security checks, and 130 require rectification. The article argues that financial cyberattacks are evolving from "humans using AI as assistance" to "AI agents autonomously taking on some attack tasks," and governance needs to be upgraded from individual institutional protection to national-level coordinated defense.
Body
10月初,韩国多家银行与金融机构接连发生个人信息泄露事件,并发现有攻击者利用人工智能(AI)实施攻击的迹象,韩国总统李在明下令开展调查。韩国金融服务委员会召集金融行业协会、监管机构及涉事金融机构召开紧急会议,要求全行业落实最高等级警戒,积极处置本轮大规模网络安全威胁。
以上情况表明,随着AI智能体能力快速提升,金融网络攻击正呈现由“人使用AI辅助攻击”向“AI智能体自主承担部分攻击任务”演进的趋势。其风险不只是攻击能力增强,而是攻击成本下降、攻击速度提高、攻击规模扩大,使传统以单家机构独立防御为主的治理模式面临结构性挑战。
泄露事件主要特征
本次韩国金融机构数据泄露事件呈现出几个主要特征。
一是涉事机构覆盖面广,多家重要金融机构都遭遇了网络安全威胁。新韩银行、国民银行、韩亚银行、釜山银行等多家金融机构相继报告个人信息泄露或遭受网络攻击。相关时期共有16家金融机构报告安全事件,涉及银行、储蓄银行、信贷和数字金融等领域,约10万条客户信息记录泄露,所幸尚未发现账户密码、银行卡号码等直接涉及非法支付风险的信息泄露。
二是攻击行为呈现批量化、自动化、跨机构扫描特点。韩国监管部门研判,攻击者并非瞄准单一机构开展定点打击,而是大范围扫描多家金融机构系统漏洞。韩国政府要求金融机构全面开展安全排查,收紧访问权限,压减非必要外部系统接入。10月14日官方通报显示,金融业555家机构完成12项安全检查,其中130家报告存在需要整改的问题,主要涉及安全补丁和监测体系。
三是AI辅助攻击的技术证据进一步增强。媒体推测,攻击者利用AI工具,不断更换互联网地址(IP),自动攻击多家金融企业。相关活动涉嫌使用ARTEX及大语言模型辅助执行部分任务。
综合本次韩国事件以及近日新加坡披露的国内首起AI相关个人信息泄露案例来看,全球金融行业面临的外部AI赋能攻击与内部AI不规范使用双重风险正在上升。攻击手段演进与机构之间威胁信息共享不足相互叠加,使金融业的联合防御问题更加突出。
一是网络攻击逐步由“人使用AI辅助攻击”向“AI智能体自主承担部分攻击任务”演变。传统网络攻击对攻击者代码编写、漏洞挖掘、系统渗透能力要求较高;而AI可辅助解读代码、分析系统配置、协助挖掘漏洞、自动生成攻击脚本。随着能够自主调用浏览器、代码工具的AI智能体快速发展,开展大规模网络攻击的技术门槛显著降低。韩国事件提示,AI在具体攻击活动中承担部分自动化任务的可能性已获得更具体的安全研究支持。
二是攻击形态由单点定向攻击转向大规模广域扫描攻击,金融生态“木桶效应”进一步凸显。本次韩国事件反映出,网络攻击呈现对多家机构进行批量扫描和攻击的特征。随着AI工具和智能体能力提升,攻击者可能进一步针对不同金融机构的共性技术组件、网络接口和第三方系统开展自动化漏洞探测,一旦这些系统出现共性漏洞,短时间内会对大批机构发起攻击。
三是数据泄露后AI放大次生危害,加剧精准诈骗风险。过去不法分子窃取海量个人数据后,需要耗费大量人力开展筛选分析;而AI能够快速完成数据清洗、关联比对、用户画像、目标筛选。一旦AI将窃取的金融数据与社交、电商、通信、企业公开数据融合,可精准锁定高价值对象,自动生成高度定制化钓鱼邮件、短信以及诈骗话术,进一步威胁社会公众财产安全。
四是机构内部不规范使用AI工具衍生新的数据泄露风险。新加坡此前披露的案例显示,虽然其发生场景与韩国金融机构遭受外部攻击不同,但员工绕过内部审批使用公共AI工具,可能使企业敏感数据脱离既有安全管理体系。对于金融机构而言,外部AI辅助攻击与内部“影子AI”使用,构成需要同时防范的两类风险。
传统以单家金融机构为主要责任主体的安全治理模式面临新的挑战。要在现有金融网络安全和数据安全制度基础上,进一步强化跨监管部门、跨金融机构、跨行业的协同机制,重点提升AI攻击威胁情报实时共享、跨机构风险预警、联合响应、智能防御以及极端情况下金融系统业务连续运行能力,推动金融安全治理由“机构单体防护”向“国家级协同防御”升级。
第一,建立国家金融AI安全联合响应机制。建议研究建立国家金融AI安全联合响应机制,将银行、证券、保险、基金、支付机构和重点金融科技服务商纳入统一威胁情报协作体系,实现“一家机构发现、全行业预警”。针对高风险攻击特征、恶意IP、漏洞利用方式等关键威胁情报,推动共享时效由传统周级、天级向小时级、分钟级提升,同步建立情报脱敏、保密管理机制与数据安全合规要求。
第二,推动重点金融机构构建“以AI防御AI”智能安全运营体系。借鉴韩国金融委员会“以AI防御AI”理念,推动大型银行、证券公司、保险机构、关键支付基础设施建设AI安全运营中心。依托AI手段持续监测网络流量、异常访问、账号行为、数据流转,借助智能体识别潜在攻击风险并输出处置方案,推动金融安全由规则驱动的被动防御向智能化主动防御转型。
第三,建立金融行业AI红队及常态化攻防测试机制。针对系统重要性金融机构建立常态化AI红队机制,在严格履行合规授权、明确测试边界的前提下,使用受控攻击型智能体模拟真实攻击,对互联网暴露资产、网络接口、员工账户、第三方接入系统、内部AI应用、数据库权限开展自动化安全测试,通过常态化模拟攻击排查潜在安全漏洞。
第四,加强金融机构外部系统与第三方供应链安全监管。借鉴韩国本次处置中压缩外部接入、强化访问管控的做法,完善中国金融机构AI工具、云平台、软件服务、外包服务商、数据服务商、接口的统一安全评估制度,严格落实零信任、最小权限原则。对可接触客户信息、核心业务数据的第三方主体实施持续性安全评估,防范攻击者绕过金融机构核心系统,经由外围供应链实施网络入侵。
第五,健全金融行业AI工具准入和“影子AI”治理制度。督促金融机构建立完整AI清单,对机构内部使用的大模型、AI智能体、代码生成工具明确业务用途、使用人员、数据权限与数据全流程流向;对涉及客户敏感信息、核心业务数据和重要数据的AI应用,优先采用私有化部署、专有云等安全可控技术架构。新加坡监管实践中的AI工具管理、权限管控、输入输出监控、AI开发全生命周期测试等举措,可供中国金融机构参考落地。
第六,将AI相关网络风险纳入金融安全压力测试和应急演练。常态化组织实战化应急演练,模拟“多家银行同步遭受AI自动化攻击”“大规模金融客户数据泄露”“AI生成虚假金融信息诱发市场波动”等极端场景,检验监管部门、金融机构、电信运营商、网络安全机构协同处置能力。
(作者系浙江之江数字经济创新研究院院长、绍兴理工学院东盟国别研究院首席专家)