UK NCSC Warns AI Will Amplify Cyber Threats to Legacy Systems
English text is being prepared.
The NCSC, part of the UK's Government Communications Headquarters (GCHQ), has released a report concluding that it is highly likely hostile actors will adopt artificial intelligence technology, enabling them to carry out large-scale ransomware attacks and targeted social engineering fraud at lower cost in the future and to quickly discover and exploit vulnerabilities. NCSC Chief Executive Richard Horne said new technologies are amplifying fundamental security weaknesses that organizations have long neglected. The report notes that some models from Google, Anthropic and OpenAI have already demonstrated the ability to find software vulnerabilities and analyze code flaws. The UK government also announced investment plans, including 60 million pounds for the first phase of the National Cyber Shield project, 70 million pounds to establish the National Exposure and Real-time Vulnerability Centre (NERV), and the creation of an AI cybersecurity centre of excellence in Manchester operated by the NCSC.
Why read this
AI score 55
The UK NCSC report places the threat of AI-enabled attacks alongside legacy system issues and sets out specific investment plans, offering insight into regulators' reasoning.
Topics
Body
作为英国情报机构政府通信总部（GCHQ）下属网络安全部门，NCSC认为，敌对行为者采用人工智能技术的可能性极高。随着AI工具能力不断提升，攻击者未来能够以更低成本、更高效率实施网络攻击，包括发动大规模勒索软件行动、实施更具针对性的社会工程学欺诈，以及快速发现并利用系统漏洞。
NCSC首席执行官理查德·霍恩表示，新技术的发展正在放大现有网络安全体系中的历史遗留问题。许多组织长期忽视基础安全建设，如今这些薄弱环节正变得越来越危险。如果企业和公共机构不能及时采取行动，加强基础设施建设并修补核心弱点，就可能被未来的攻击者轻易利用。
报告指出，近年来人工智能模型的发展速度远超预期。包括Google、Anthropic和OpenAI在内的科技企业持续推出能力更强的大模型，其中部分模型已经展现出发现软件漏洞和分析代码缺陷的能力。虽然这些能力最初旨在帮助开发和防御工作，但网络犯罪分子未来同样可能借助类似技术寻找攻击机会。
NCSC特别强调，面对即将到来的AI时代，组织不应仅关注未来威胁，而忽视现有问题。事实上，网络攻击者之所以频繁得手，往往并非依靠先进技术，而是利用长期未修复的已知漏洞、配置错误和暴露在互联网中的老旧系统。许多成功入侵案例都源于公共网络接口被利用、钓鱼邮件攻击、合法账户遭滥用以及远程服务存在缺陷等传统安全问题。
为了提升防御能力，NCSC建议各类组织加强网络安全投资，减少不必要的互联网连接，降低外部暴露面，同时将基础网络安全规范作为防护工作的起点。该机构认为，建设安全体系不应只是技术部门的职责，而应成为企业和机构管理层的核心战略任务。
理查德·霍恩指出，过去几十年来，许多组织习惯于以最低成本建设数字系统，将安全投入视为可选项。但在人工智能时代，这种思维方式已经难以为继。他呼吁各行业领导者以更紧迫的态度进行投入，把安全性和系统韧性作为组织运营的基本要求，而不是等到遭受攻击后再亡羊补牢。
与此同时，英国政府也公布了多项网络安全投资计划，以提升国家级防护能力。其中包括投入6000万英镑建设国家“网络盾牌（Cyber Shield）”首阶段项目，投入7000万英镑建立国家暴露面与实时漏洞中心（NERV），用于持续发现关键基础设施和经济体系中的网络风险。此外，英国还将在曼彻斯特设立新的人工智能网络安全卓越中心，由NCSC负责运营，以培养政府部门的AI安全专业能力。
NCSC认为，人工智能既能成为强大的防御工具，也能成为攻击者手中的新型武器。随着AI降低网络攻击门槛并显著提升攻击速度，未来从漏洞发现到漏洞被利用之间的时间差将进一步缩短。对于仍依赖老旧技术和传统架构运行的组织而言，尽快升级系统、修补漏洞并建立更具韧性的安全体系，已经不再是长期规划，而是一项迫在眉睫的任务。