更多

(*日文在英文之后)

Sakana AI 正式成立 Security Research Group,这是一个独立的研发团队,致力于研究由 AI 驱动的集体网络防御,以及 AI 本身的安全性与安全保障。

我们的研究始于这样一种理念:智能与韧性源自群体,就像鱼群,而非一条独自游动的鱼。作为一家开发前沿 AI 的公司,我们也认为,自己对使用这项技术的社会负有安全责任。该团队独立于我们的商业业务,其使命是服务公共利益:发表研究成果、可复现的基准测试和实用指南,并与政府、产业界和学术界合作开展研究,以提升网络安全水平。

我们观察到的情况

前沿 AI 发现软件缺陷的能力正在增强,已披露缺陷的数量也在上升。1 NIST 报告称,2020年至2025年间,CVE 提交量增长了263%;2026年初的提交量比一年前同期高出近三分之一。2 提供日文漏洞信息的 JVN iPedia 在最近一个季度登记的条目数也接近一年前同期的两倍,其中大多数来自 NVD。3 人们普遍怀疑 AI 在其中发挥了作用,尽管仍有更多情况需要确认:FIRST 指出,除行政管理因素外,AI 辅助发现也是原因之一;NIST 工作人员则表示,基于 AI 的漏洞发现工具增加了他们的工作量。4 日本政府如今已将这一趋势视为国家安全问题。1

压力已经显现。NIST 已停止对较早记录进行常规分析,目前优先处理已知遭到利用的缺陷。5 日本金融监管机构已要求各机构将应对工作视为经营管理问题,并由最高管理层直接参与。6 缺陷正以机器的速度被发现,却只能以组织的速度得到修复;我们认为,夹在两者之间的人正在承担代价。

另一面也在发生变化。攻击者正在使用 AI 智能体,同时对大量目标发起入侵。7 AI 系统本身也正在成为攻击目标:NICT 在2026年第一季度记录到更多针对 AI 服务端点的探测活动。8

为什么仅仅加快响应还不够

更快地进行分类处置和修补十分必要,但仅修补已经投入运行的系统,不足以降低整体风险。CISA 对两个财政年度的审查发现,许多攻击者利用的是众所周知且简单直接的弱点,其中输入验证和内存安全缺陷是最可靠的入侵途径;该机构呼吁消除长期存在且本可预防的弱点。9 NICT 最近针对移动应用后端服务器攻击发布的警报也列出了同类弱点,例如缺少授权检查和未验证输入。10 FBI 对 AI 智能体入侵事件的说明列出了 SSRF、IDOR、缺少 API 身份验证和注入攻击。7 即使 AI 能加快发现这些缺陷的速度,只要软件和架构中仍不断引入相同的弱点,相关工作量就很可能持续增长。

因此,我们认为持久的解决方案在更上游,即包括 AI 在内的系统开发流程中。目标不是在发布后追逐缺陷,而是在设计和构建阶段防止缺陷产生,或在该阶段将其消除。日本政府面向各部门的一揽子方案也指向同一方向,要求软件供应商采用安全设计原则,并在整个开发过程中运用先进 AI,及早发现并修复漏洞。1

从上游到下游的四层防御:各产品的质量、系统的设计与配置、运维与修补,以及检测与响应。Security Research Group 的工作覆盖全部四层,但长期重点将放在上游的前两层。

质量是日本可以引领的领域

我们主张将这一问题视为质量问题。发现和修复漏洞可能被看作一项特殊任务,由安全专家在产品构建完成后另行执行。我们更希望将其视为产品应有质量的一部分,并从源头提升这种质量。日本或许非常适合在这方面发挥引领作用。日本制造业凭借质量建立了享誉全球的声誉,这一传统也是日本产品长期受到重视的原因之一。通过软件安全重新思考质量既是一项挑战,也是提升日本影响力的机会。

AI 在这方面同样可以发挥作用。用于发现成品系统缺陷的同一种能力,可以转化为在设计、构建和运营的每个阶段检查质量的方法;我们将在防御端充分利用这种能力。如果能将优秀人工审查人员的专业知识融入 AI 智能体,就有望以过去难以实现的规模和深度保障质量,而今天发现的缺陷也可以教会我们明天不再制造同样的缺陷。这让防御者有理由抱持希望。

安全是必备质量

广泛应用于质量管理的卡诺模型,根据质量与用户满意度之间的关系将其分为三类:具备时会带来惊喜的魅力质量;满足程度越高、满意度也相应提高的一维质量;以及必备质量。必备质量在具备时往往不会受到注意,只有在缺失时才会引发强烈不满。安全保障是一个典型例子,网络安全也是如此;由于人们将二者视为理所当然,很少明确提出要求,因此它们很容易被完全排除在质量定义之外。正因如此,必须从一开始就将其作为质量要求并内置其中,而不是到最后才进行检查。维持质量意味着努力确保我们运行的软件和 AI 系统本身永远不会被引入那些可能导致事故的缺口。

在卡诺模型中,安全保障与网络安全都属于必备质量:满足这些要求不会使用户满意度高于中性水平,但未能满足则会引发强烈不满。概念示意图据 Kano 等人(1984)绘制。

日本面临的制约

在日本,应对 AI 时代的漏洞十分困难,原因很可能包括金融厅和日本银行的要求等公开文件中所列的那些因素。11

  • 外包运营: 许多组织将系统维护委托给供应商,因此需要事先明确维护合同是否涵盖补丁安装,以及各方分别承担哪些责任。
  • 技术债务: 遗留系统和不完整的资产清单可能导致难以判断哪些漏洞会产生影响,而修复这些漏洞则更为困难。
  • 人员有限: 短期内大幅扩充 IT 人员并不现实,因此必须将现有专业能力集中用于最重要的领域。

在这些条件下,仅靠增加人员无法跟上形势。我们认为,这些困难是需要解决的结构性问题,或者说设计问题。产品的缺陷越少,所需的供应商协调、补丁窗口和应急人员配置就越少。产品构建完成后再通过事件响应来维持必备质量,成本往往很高。如果将投资转向设计和构建环节,必备质量的总成本就可能下降,节省下来的资金还可投入一维质量和魅力质量,从而提高客户满意度。因此,我们长期将重点放在上游。不过,仅有前沿模型还不足以实现这一点:如果缺少针对各类环境调整的支撑框架以及对整个系统的整体认识,它可能产生误报和不安全的修复方案。改变不会在一夜之间发生,因此我们希望不以单个组织的身份推进,而是与日本乃至世界各地的人们携手前行。

我们的研究领域

我们的研究有两大主题:利用 AI 实现集体防御,以及 AI 自身的网络安全与安全保障。借鉴安全设计和质量管理实践,我们拟开展以下研究:

  • 通过设计实现预防: 如何在系统构建之前定义其必须维持的质量,并在系统整个运行期间持续检查?如何让某些类别的漏洞从根本上无法出现?而当仍然需要修复时,如何依据自动化系统本身无法改写的标准检查自动修复,并在出现问题时迅速撤销修复?
  • 利用 AI 智能体开展集体防御: 攻击者已经在利用 AI 智能体同时攻击多个目标,7 而防御工作在很大程度上仍以单个组织为单位开展。在日本,在相关人员的努力下,组织之间已经开始共享分析结果;我们希望探索能否让这种协作以机器速度在全国范围内运行:将防御智能体分布在各个组织中并保持同步,使其中一个智能体观察到的情况能够反馈到所有智能体的下一步防御中。这样,一次发现的攻击就可以转化为所有参与者共享的防护能力。这里仍有许多开放性问题,包括可以共享什么以及须征得谁的同意,如何让共享信号跨越组织和供应商边界获得信任,以及智能体依据信号采取行动时由谁负责。
  • 保护 AI 自身的安全,首先从防御者自己的智能体入手: AI 背后的系统已经在遭受试探。8 负责分类研判和修补的智能体拥有特权访问权限,因此前两个领域都以这一领域为基础。我们如何保护 AI 系统免受攻击和滥用,并确保其行为安全?我们首先从防御者自己的智能体入手:如何将每个智能体的权限限制在其任务范围内,追溯其采取行动的原因,并确保为防御而构建的工具始终仅用于防御?

我们的研究基础与开放性问题

网络安全归根结底是一个共同演化系统,其中存在两组共同演化:攻击与防御的共同演化,以及 AI 进步与支撑这种进步持续发展的网络安全和安全保障的共同演化。在对自我改进型 AI 的研究中,Sakana AI 曾亲眼目睹一些失败案例,例如智能体设法绕过为其设定的约束。我们的立场是将这些情况视为核心技术问题,而非例外。这使 Sakana AI 以往的工作成为自然的起点;我们的目标是将这些共同演化揭示的规律反馈到设计环节,使其转化为预防能力:

  • 对抗性共同演化(Digital Red Queen): 在编程游戏 Core War 中,我们让由 LLM 编写的程序与其前代程序展开演化竞争,结果表明,它们面对未见过的人工编写程序时往往具有更强的通用性。我们如何才能安全地将这种方法引入生产环境中的蓝队和红队行动?
  • 样本高效搜索(ShinkaEvolve): 在严格的评估预算内演化出更强的代码;我们认为,这可能适合用于编写检测规则和候选补丁,因为在这些场景中进行真实环境测试成本高昂。
  • 集体编排(Fugu-Cyber): 协调多个专用模型,在 CyberGym 上取得 86.9% 的成绩,在 CTI-REALM 上取得 72.1% 的成绩;据 Sakana AI 报告,这一表现可与领先的网络安全专用前沿模型相媲美。12 基准测试结果未必能够延续到真实的企业环境中,而衡量这一差距正是我们的研究问题之一。

我们的运作方式

为确保我们的工作真正服务于日本更广泛的安全生态系统,Security Research Group 遵循以下准则开展工作:

  • 供应商中立: 原则上,安全研究本身与产品推广相互分离。在评估 Sakana AI 自己的系统时,我们采用与任何外部工具相同的透明、可复现条件,并根据需要公布计算预算、迭代次数、测试框架及类似细节。
  • 负责任披露: 我们正在制定成果发布政策。目前,我们的原则是公开分享白皮书、基准测试和防御行动手册,避免发布可直接用于实施攻击的漏洞利用材料,并通过适当的协调渠道报告发现的漏洞。
  • 连接政策与实践: 日本拥有完善的安全框架,但将任何框架转化为日常运营实践都很困难;我们的目标是在二者之间搭建技术桥梁。

研究组负责人寄语

Security Research Group 由 Akihiro Umegai 和 David Ha 领导。


“AI正在同时改变网络安全的攻防两端,任何单一组织都无法独自跟上这种变化。我认为,安全性与安全保障并非AI进步的阻力,而是维持其持续发展的前提。通过这个研究组,我将帮助日本拓展下一代网络安全以及AI自身安全性与安全保障方面的研究,并与世界分享我们的成果。”

Akihiro Umegai,Sakana AI安全研究负责人

“网络安全是最能清楚体现AI已经如何改变攻防双方能力边界的领域之一。防御者需要与威胁同样快速进步的工具。安全是一个永远处于变化之中的对抗性环境,而这恰恰是我们在演化、集体智能和多智能体系统方面的工作旨在研究的问题。作为一家扎根日本的AI公司,我们也希望帮助保护我们正在为之建设技术的社会。这就是我们现在成立这个研究组,并让其公开分享研究成果的原因。”

David Ha,Sakana AI联合创始人兼首席执行官

与Sakana AI的Security Research Group合作

我们欢迎日本及全球的政策制定者、企业和安全研究人员与我们合作。我们也在招聘!如果你希望帮助构建适应AI时代的韧性防御体系,请查看 技术人员(Security Research Group) 职位,详见我们的 招聘页面.

日语

Sakana AI成立Security Research Group

阅读英文版

Sakana AI宣布成立独立研发团队“Security Research Group”,研究利用AI实现集体网络防御,并确保AI系统自身的安全性与安全保障。

一直以来,Sakana AI都秉持这样一种理念开展研究:智能且具有韧性的系统并非源自一条鱼,而是源自鱼群。作为一家开发前沿AI的企业,我们也始终感到自己有责任保护使用这些AI的社会。今天正式启动的Security Research Group将作为一个独立于业务活动的组织,以服务公共利益为使命,在公开研究成果、可复现基准和实用指南的同时,与政府、产业界及学术界合作,开展提升网络安全水平的研发工作。

当前正在发生的变化

如今,前沿AI发现软件缺陷的能力正在增强,公开披露的缺陷数量也在持续增加。13 据美国国家标准与技术研究院(NIST)称,到2026年初,针对已公开漏洞申请登记的识别编号CVE数量比上年同期高出近三成。14 在提供日语漏洞信息的JVN iPedia中,最近一个季度的登记数量也达到上年同期的近两倍(不过其中大部分来自美国国家漏洞数据库NVD)。15

目前尚不清楚AI在这一增长中究竟发挥了多大作用。国际事件响应团队组织FIRST指出,除AI辅助发现外,积压案件得到清理等行政因素也推动了增长;NIST工作人员则表示,使用AI的缺陷发现工具正在增加工作负担。16 日本政府也将这一趋势视为国家安全问题。13

一线工作的负担已经开始显现。NIST不再常规分析陈旧记录,转而优先处理已确认在现实中遭到利用的缺陷。17 日本金融监管部门也要求金融机构将此事作为由最高管理层直接参与的经营课题来应对。18 目前,组织层面的修复速度跟不上缺陷被发现的速度,压力因而集中到一线工作人员身上。攻击者开始利用AI智能体同时尝试入侵大量目标19,AI系统本身也正逐渐成为攻击目标。日本信息通信研究机构(NICT)观测到,2026年第一季度探测AI服务入口(端点)的通信有所增加。20

仅仅加快响应还不够

在这种情况下,迅速开展分诊(确定应对缺陷的优先顺序)和应用补丁变得愈发必要。然而,仅仅持续为已投入运行的系统打补丁,并不足以充分降低整体风险。美国网络安全与基础设施安全局(CISA)对两个财年漏洞的审查显示,许多攻击者利用的并非高级手段,而是广为人知的简单弱点。其中,输入验证缺失和内存安全缺陷已经成为攻击者最可靠的入侵入口。CISA呼吁消除这些长期存在、本应可以预防的弱点。21

NICT最近也针对以移动应用背后服务器为目标的攻击发出警告,其中列出的同样是授权检查缺失、输入验证缺失等同类弱点。22 FBI报告的AI智能体入侵案例也将SSRF、IDOR、API缺乏身份验证以及注入等弱点列为入侵入口。19 即使AI提高了发现缺陷的速度,只要软件和架构中仍在不断产生同样的弱点,需要处理的工作就只会越来越多。

正因如此,我们认为,根本解决方案位于包括AI在内的系统开发流程上游。与其在发布后追逐缺陷,不如在设计和构建阶段从一开始就避免产生缺陷,或当场将其消除。日本政府的应对方针也要求软件供应商应用“安全设计”原则,并在整个开发过程中使用先进AI,尽早发现并修复漏洞。13

从上游延伸至下游的四层防御,包括单个产品的质量、系统的设计与配置、运维与补丁应用,以及检测与响应。Security Research Group将覆盖全部四个层面,同时长期把重点放在上游的前两个层面。

质量——日本的优势

我们建议将其视为一个“质量问题”。人们往往认为,发现和修复漏洞是产品完成后由安全专家另行开展的特殊工作,但我们认为,更应将其视为产品理应具备的质量的一部分,并从源头提升这种质量。

日本制造业凭借质量赢得了全世界的信赖。如今,随着AI能力不断提升,我们可以从安全角度重新审视质量这一概念。我们认为,这既是一项重大挑战,也是日本提升自身影响力的良机。支撑这一举措的同样是AI。AI发现已完成系统中缺陷的能力,可以用于在设计、构建和运维的各个阶段验证质量。如果能将优秀审查人员的知识融入AI智能体,我们或许就能以前所未有的规模和深度验证质量。如果能够形成“从今天发现的缺陷中学习,明天不再制造同样缺陷”的循环,防御方或许也能看到希望。

安全是“基本质量”

质量管理中广泛使用的狩野模型,根据质量与用户满意度之间的关系,将质量分为三类:具备后会令人欣喜的魅力质量、满意度随满足程度提高而上升的一元质量,以及基本质量。基本质量即使具备也不会被特别注意,只有缺失时才会引发强烈不满。安全性是其中的典型,网络安全也属于这一类。由于它通常被视为理所当然,很少被明确提出,因此容易从质量定义中遗漏。正因如此,我们不应等到最后才进行检查,而应从一开始就将其作为质量要求予以确认并内建于产品之中。无论是所使用的软件,还是AI系统本身,从源头上不留下发生安全事件的可乘之机,才能维持质量。

安全性与网络安全属于狩野模型中的基本质量。即使充分满足,用户评价也不会超过中立水平;但如果未能满足,就会引发不满。概念图基于狩野等人(1984)。

日本特有的制约

在应对AI时代的漏洞时,日本也面临一些特有的难题。从日本金融厅和日本银行等机构提出的要求中,可以看出以下情况。23

  • 运维外包:许多组织将系统维护交由供应商负责。需要事先明确应用补丁是否属于合同范围,以及各方分别承担哪些职责。
  • 技術的負債:旧系统长期沿用,资产掌握也不充分,因此难以判断新发现的缺陷是否影响自身,修复起来也很费力。
  • 人员有限:短期内大幅增加IT人员并不现实,因此必须将现有专业人才集中投入最重要的领域。

在这些条件下,依靠增加人员来应对的方式无法跟上形势。我们认为,这是一个需要重新审视缺陷产生机制本身、并在设计阶段采取措施的结构性问题。如果产品预先存在的缺陷较少,与供应商的协调、补丁应用窗口以及紧急响应所需人员都可以相应减少。如果试图在产品完成后通过事件响应来维持基本质量,每发现一个缺陷都会产生成本。若在设计和制造阶段投入资源,将基本质量内建于产品之中,就能抑制这类支出,并将节省下来的资源投入一元质量和魅力质量,从而提高客户满意度。正是基于这种思路,我们才将长期重点放在上游。

不过,这并不是仅仅引入前沿模型就能实现的。如果缺少适合各自环境的脚手架(scaffolding),以及纵览整个系统的视角,AI可能会产生误报或不安全的修复。这种变革也需要时间。正因如此,我们希望与国内外利益相关方携手推进,而不是由单一组织独立完成。

研究領域

本研究组主要有两大研究支柱:利用AI开展集体防御,以及确保AI系统本身的安全性与网络安全。我们将以安全设计和质量管理方面的知识为基础,考虑开展以下研究。

(1)利用AI开展集体防御

  • 通过设计进行预防:如何在构建之前定义系统应具备的质量,并在运行期间持续验证?应当如何设计,才能从结构上使特定类型的缺陷无法被用于攻击?即便如此仍需修复时,又该如何验证自动修复的安全性,并确保一旦出现问题便能迅速恢复原状?
  • 由AI智能体开展集体防御:攻击者已经在使用AI智能体,同时瞄准大量目标。19 另一方面,目前大多数防御仍局限于单个组织。在日本,得益于相关各方的努力,跨越组织壁垒共享分析成果的工作一直在持续。如何让这一举措以机器的速度,在全国乃至全球范围内运作?我们设想的机制之一是:部署在各组织中的防御智能体彼此协作,让某个组织观测到的攻击立即反映到整体防御中。如果能够实现,一次观测到的攻击信息就能用于所有参与组织的防御。不过,哪些信息应在何种同意机制下共享,如何跨越组织和供应商的边界确保共享信息的可靠性,以及智能体根据信息采取行动后由谁承担责任等问题,目前仍未得到解答。

(2)确保AI系统本身的安全性与网络安全

  • 保护AI系统本身(首先从防御方智能体入手):支撑AI的系统已经成为攻击者探查的目标。20 其中,负责分诊和补丁应用的智能体拥有系统的特权访问权限。如果不能确保这些智能体的安全,上述两个领域也无从成立。因此,我们将从防御方智能体入手,研究如何保护AI系统免受攻击和滥用。例如,如何将各智能体的权限限制在其职责范围内,如何确保事后能够验证其行动依据,以及如何防止为防御而开发的工具被转用于其他目的。

研究基础与尚待解决的问题

网络安全中的攻击与防御存在“共同进化”的关系:一方进化,另一方也会随之进化。AI及其安全性之间同样需要共同进化。如果安全与安全保障不能随着AI一同进步,AI本身的进步就无法持续。

Sakana AI在研究能够自我改进的AI时,曾遇到智能体找到既定约束漏洞之类的失败。我们不会将这些失败视为例外,而是把它们作为核心技术课题来处理。此外,进化与共同进化也是Sakana AI一直置于研究核心的主题。我们将运用由此积累的方法,把共同进化过程中显现的弱点反映到设计中,从而预防缺陷。以下三项研究是这一工作的起点。

  • 敵対的共進化(Digital Red Queen):在编程游戏Core War中,我们让由LLM编写的程序与过去的自身版本对战并不断进化,结果发现,它们面对人类编写的未知程序时,也逐渐呈现出通用性更强的趋势。下一项挑战是如何将这种方法安全地引入真实环境中的蓝队和红队行动。
  • 样本效率高的搜索(ShinkaEvolve):一种在严格的评估预算下进化出更强代码的方法。它可能适合用于创建检测规则和修复方案,因为这些任务在真实环境中测试的成本较高。
  • 集体编排(Fugu-Cyber):通过协调专业化模型构建的Fugu-Cyber,展现出了可与主要网络安全专用前沿模型相媲美的性能。24 不过,基准测试结果未必能直接适用于真实的企业环境,衡量二者之间的差距也是一项研究课题。

运营准则

为确保我们的工作切实惠及日本整体安全生态系统,Security Research Group将遵循以下准则运营。

  • 供应商中立:原则上,本研究组的安全研究将作为与产品宣传相分离的活动开展。即使评估Sakana AI自身的系统,也会采用与外部工具相同的透明、可复现条件,并酌情公开计算预算、迭代次数和测试框架等信息。
  • 负责任的披露:我们将在今后制定研究成果的发布方针。目前原则上将公开白皮书、基准测试和防御手册,但不公开可能被滥用的漏洞利用材料。发现的漏洞将通过适当的协调机构进行报告。
  • 连接政策与实践:日本拥有完善的安全框架,但如何将框架落实到日常运营中,是所有组织都面临的难题。我们的目标是发挥技术桥梁作用,连接政策与一线实务。

研究组负责人寄语

Security Research Group由梅谷晃宏和David Ha领导。


“AI正在同时改变网络安全的攻防两端,任何单一组织都无法独自跟上这种变化。我们认为,安全与安全保障并非AI进步的阻碍,而是使其进步得以长期持续的必要条件。通过本研究组,我们将在日本开拓下一代网络安全,以及AI自身安全与安全保障方面的研究,并将由此获得的知识回馈全球。”

梅谷晃宏,Sakana AI安全研究主管

“网络安全是受AI影响最为显著的领域之一,无论攻击还是防御,其能力边界都在发生肉眼可见的变化。防御方不可或缺的是能够以与威胁相同速度进化的工具。安全是一个不断变化的对抗性环境,而这恰恰是我们在进化、集体智能和多智能体系统研究中一直致力解决的问题。作为一家扎根日本的AI企业,我们也希望成为保护自己正在努力建设之社会的一股力量。为此,我们现在成立这一研究组,并将开放分享研究成果。”

David Ha,Sakana AI联合创始人兼首席执行官

与研究组合作及成员招聘

我们欢迎与日本国内及全球的政策制定者、企业和安全研究人员开展合作。目前也正在招聘。如果您希望与我们共同构建AI时代的韧性防御,请查看招聘页面中的“技术人员(Security Research Group)”职位。

脚注

  1. Project YATA-Shield是由日本国家安全保障局、国家网络安全办公室及其他十二个省厅和机构于2026年5月18日联合发布的政府整体方案。该方案以最前沿AI模型发现和修复漏洞的能力迅速提升为前提,并指出攻击者滥用AI正在提高网络攻击的速度和规模。方案要求关键基础设施运营方强化应对措施,预先考虑漏洞将以更快速度、更大数量被发现和修复;同时提醒软件供应商遵循安全设计原则,并在整个软件开发生命周期中运用先进AI,尽早发现和修复漏洞。来源: 方案 和 摘要. ↩

  2. NIST指出,2020年至2025年间提交的CVE数量增长了263%,并表示2026年前三个月的提交量比一年前高出近三分之一。来源: NIST. ↩

  3. 2026年第三季度,JVN iPedia登记了20,073条记录,而上年同期为10,869条;其中19,913条采集自美国国家漏洞数据库(NVD),147条来自JVN,13条来自日本产品开发商。数量按登记日期统计,而登记时间取决于NVD的发布时间。来源: IPA,《JVN iPedia登记情况(2026年第三季度)》. ↩

  4. FIRST在年中更新(2026年6月15日)中将这一增长归因于AI辅助发现,以及清理CNA积压、扩大GitHub Security Advisories等管理因素。NIST工作人员于2026年4月表示,由基于LLM的发现工具推动的提交量增长,加重了NVD的工作负担。来源: APNIC(对FIRST的总结); 《信息安全杂志》. ↩

  5. NVD已停止对2026年3月1日之前发布但尚未补充完善的记录进行常规补充,并优先处理CISA“已知被利用漏洞目录”中的记录、美国联邦政府内部使用的软件,以及第14028号行政命令所定义的关键软件。来源: NIST; 《信息安全杂志》. ↩

  6. 2026年5月22日,日本金融厅和日本银行要求金融机构及相关实体将应对前沿AI视为由最高管理层直接参与的经营课题,并根据风险确定补丁修复工作。来源: 日本金融厅 以及 日本银行. ↩

  7. FBI FLASH-20261113-001《ARTEX自主渗透测试框架威胁概述》,2026年11月13日(TLP:CLEAR)。报告将ARTEX描述为一个开源、由LLM驱动的多智能体平台;威胁行为者已将其武器化,以机器速度自动执行入侵的多个阶段。该平台至少自2026年8月起已投入使用,并使专业知识有限的行为者也能同时开展复杂的多目标行动。关于入侵可在不到三小时内取得特权访问权限的数据,FLASH援引自Microsoft Threat Intelligence。报告列出的初始访问弱点包括SSRF、IDOR、Web API缺少身份验证、命令注入、SQL注入和硬编码凭据;FLASH未指明任何具体的CVE标识符。来源: FBI互联网犯罪投诉中心(IC3). ↩

  8. NICTER在2026年第一季度记录到针对AI服务端点的探测活动有所增加。暗网观测记录的是未经请求的流量,并不统计攻击次数。来源: NICT,《NICTER观测统计(2026年1月至3月)》. ↩

  9. CISA于2026年8月26日发布的《漏洞审查》涵盖2024和2025财年。报告发现,许多攻击者瞄准的是众所周知且简单直接的弱点,而非复杂技术;输入验证缺陷和内存安全缺陷是最为可靠的切入点。报告建议消除长期存在且本可避免的弱点,并采用“安全设计”原则。来源: CISA公告; 完整审查报告. ↩

  10. 这项警报来自NICT的LETTICE团队,该团队是由参与NICT网络安全枢纽(CYNEX)的机构志愿者组成的联合分析团队。警报指出,A2B(应用到后端)攻击是近期日本一系列数据泄露事件的原因之一:攻击者分析在日本发布的应用程序,了解其背后的后端服务器和API,随后攻击各个后端。警报指出,主要遭到攻击的弱点分为四类:SSRF、远程代码执行、SQL注入和IDOR。来源: NICT CYNEX,2026年10月13日警报(修订版1.1). ↩

  11. 上述三个条件均见于脚注6所引日本金融厅和日本银行的要求。该文件指出,许多金融机构将系统维护委托给供应商,并要求这些机构确认:当多家机构同时需要安装补丁时,供应商能够确保获得履行服务级别协议所需的资源。文件还要求机构清理优先系统中的技术债务,以便立即确定补丁适用对象。此外,文件指出,在短期内大幅扩充现有IT人员并不现实。该要求面向金融行业。 ↩

  12. 据Sakana AI报告,Fugu-Cyber在CyberGym上的成绩达到86.9%,在CTI-REALM上达到72.1%;该页面未提供基准成绩或评估设置。来源: Sakana AI,《Fugu-Cyber简介》. ↩

  13. 日本政府的应对方案“Project YATA-Shield”也体现了这样一种认识:前沿AI发现漏洞的能力正在增强。该方案由日本国家安全保障局、国家网络安全办公室及其他12个省厅于2026年5月18日联合发布。方案以最前沿AI模型发现和修复漏洞的能力正在迅速提升为前提,并指出攻击者滥用AI正在提高网络攻击的速度和规模。在此基础上,方案要求关键基础设施运营方强化应对措施,以漏洞将被更快、更多地发现和修复为前提;同时提醒软件供应商应用“安全设计”原则,并在整个软件开发生命周期中使用先进AI,尽早发现和修复漏洞。来源:方案、概要 ↩

  14. NIST指出,2020年至2025年间CVE登记申请量增长了263%,并表示2026年前三个月的申请量比上年同期高出近三分之一。来源:NIST ↩

  15. 2026年第三季度,JVN iPedia登记了20,073条记录,而上年同期为10,869条。其中19,913条采集自美国国家漏洞数据库(NVD),147条来自JVN,13条来自日本国内的产品开发商。数量按登记日期统计,而登记时间受NVD发布时间影响。来源:IPA,《JVN iPedia登记情况(2026年第三季度)》 ↩

  16. FIRST在年中更新(2026年6月15日)中指出,除AI辅助发现外,清理CNA积压案件、扩大GitHub Security Advisories等管理因素也是数量增长的原因。NIST工作人员于2026年4月表示,由使用LLM的发现工具推动的申请量增长,加重了NVD的工作负担。来源:APNIC(对FIRST的总结)、《信息安全杂志》 ↩

  17. NVD已停止对2026年3月1日之前发布但尚未补充完善的记录进行常规补充,并优先处理CISA“已知被利用漏洞目录(KEV)”中的记录、美国联邦政府内部使用的软件,以及第14028号行政命令所定义的关键软件记录。来源:NIST、《信息安全杂志》 ↩

  18. 2026年5月22日,日本金融厅和日本银行要求金融机构等将应对前沿AI视为由最高管理层直接参与的经营课题,并根据风险决定补丁的应用。来源:金融庁、日本銀行 ↩

  19. FBI FLASH-20261113-001《ARTEX自主渗透测试框架威胁概览》,2026年11月13日(TLP:CLEAR)。文件将ARTEX描述为一个开源、由LLM驱动的多智能体平台。攻击者正滥用该平台,以机器速度自动完成入侵的多个阶段;该平台至少从2026年8月起已被使用,并使专业能力较低的攻击者也能同时开展针对多个目标的复杂行动。从开始入侵到获得特权访问权限不到3小时这一数据,在FLASH中引自Microsoft Threat Intelligence的资料。FLASH列出的初始入侵薄弱点包括SSRF、IDOR、Web API缺少身份验证、命令注入、SQL注入和硬编码凭据等,但未列出具体的CVE编号。来源:FBI IC3 ↩

  20. NICTER观测到,2026年第一季度针对AI服务端点的探测活动有所增加。暗网观测记录的是单向传入的通信,并不统计攻击次数。来源:NICT、NICTER観測統計(2026年1月〜3月) ↩

  21. CISA于2026年8月26日发布的漏洞审查涵盖2024和2025财年。审查指出,许多攻击者并不采用高级手法,而是瞄准广为人知的简单弱点;输入验证不当和内存安全缺陷是最可靠的入侵入口。审查建议消除长期存在且本可预防的弱点,并采用“安全设计”原则。来源:CISA的公告、审查全文 ↩

  22. 该警示由NICT的LETTICE团队发布。LETTICE是由参加NICT网络安全枢纽(CYNEX)的组织志愿者组成的联合分析团队。警示将A2B(App-to-Backend,应用到后端)攻击列为日本国内接连发生信息泄露的原因之一。攻击者通过分析在日本国内公开的应用程序,掌握其背后的后端服务器和API,继而攻击各个后端。警示列出了四类主要目标弱点:SSRF、远程代码执行、SQL注入和IDOR。来源:NICT CYNEX,2026年10月13日发布的警示(Rev. 1.1) ↩

  23. 这三个条件均见于脚注18所列日本金融厅和日本银行的要求。该要求指出,许多金融机构将系统维护委托给供应商,并要求确认:即使多家金融机构同时需要应用补丁,供应商是否也能确保拥有履行服务级别协议所需的资源。要求还提出,应消除高优先级系统的技术债务,以便迅速确定需要应用补丁的对象;同时指出,在短期内大幅增加现有IT人员并不现实。该要求以金融行业为对象。 ↩

  24. Fugu-Cyber在CyberGym上取得了86.9%的成绩,在CTI-REALM上取得了72.1%的成绩。来源:Sakana AI《Fugu-Cyber简介》 ↩