AI 热点

AI 时代网络安全从工具转向任务与自主智能体

CTech更新于 11月19日 09:16

"In the AI era, cyber needs to be thought of in terms of tasks rather than products or tools"

AI 导读

New Era Capital 波士顿会议的嘉宾认为,网络安全将从独立工具转向可检测、调查和响应威胁的自主 AI 智能体群。案例显示,智能体可关联孤立行为以发现攻击或内部数据窃取,未来 6 至 12 个月安全人员或将从流程监督者转为系统架构者。技术变化也在缩短企业自研安全方案的经济窗口,并推动渗透测试从阶段性服务转向持续覆盖。

推荐理由

AI 评分 53

多位安全行业从业者从威胁狩猎、渗透测试和采购决策切入,勾勒出网络安全向自主智能体协作转变的路径。

主题

标签

正文 · AI 翻译

人工智能正在迅速改变网络安全行业。其下一阶段可能是从围绕各类独立安全工具构建的防御系统,转向由自主智能体组成的集群;这些智能体能够检测和调查威胁,并在极少人工干预的情况下作出响应。这是波士顿 New Era Capital 大会上一个探讨 AI 时代网络安全未来的专题讨论所传达的核心信息。

讨论得出的一个重要结论是,这场变革并不只是加快现有流程,还需要重新思考安全团队的组织方式、企业如何决定自研还是采购技术,以及人类与机器之间如何划分职责。

“我们需要停止思考如何构建工具或解决方案,转而思考如何构建需要执行大量任务的智能体群。”初创公司 Sola Security 创始人兼首席执行官 Guy Flechter 表示。他认为,攻击者也在摆脱熟悉的工具,越来越多地使用多个智能体分别执行任务、相互学习并独立运作。“未来将是更少的工具、更多的任务,以及持续不断的学习。”他说。

1 查看图片库 从右至左:Omer Shirazi、Guy Flechter、Damien Lewke、Katie Jenkins,以及主持人 Stephanie Cherrin(图片:Pierce Harman)

Flechter 是一位连续创业者,他此前创办的初创公司 Cider 被 Palo Alto Networks 以3亿美元收购。他还谈到,如今创办公司的节奏已发生巨大变化。“在 AI 时代创办公司,与我之前创办公司时完全不同。它让人以不同视角看待需要实现的目标,而且节奏极快。几乎每隔几周,情况就会发生变化;我们每个月都需要审视自己是否仍在朝着正确的方向前进。”

在网络安全本身发生变革的同时,AI 革命也在为该领域的公司创造新机遇。企业预算不断增长,而安全团队也面临越来越大的压力,需要更迅速地应对技术变化。

这种转变也在改变企业决定内部开发安全解决方案还是向外部供应商采购的方式。保险巨头 Liberty Mutual 的首席信息安全官 Katie Jenkins 解释说,过去如果市场上没有合适的产品,企业通常会选择自研解决方案。但技术变化不断加速,正在缩短这一决策仍具经济合理性的时间窗口。

“过去,如果我认为能在一两年内开发出某样东西,我会觉得值得自己做;如今,这个期限可能只有三到六个月,而这会促使我作出不同的决定。”她说。

相关文章:

以色列国防军前发言人警告:下一场争夺公众认知的战争将越来越多地在 AI 驱动的平台上展开

美国前国家安全顾问:“一个普通黑客就能造成严重破坏,而我们尚未做好准备”

“如今,仅仅拦截一个智能体还不够,你需要向它解释为什么这样做”

专题讨论主持人、银行业巨头 JPMorgan Chase 的 Stephanie Cherrin 透露,该行今年的 AI 预算超过200亿美元,这让与会者颇感意外;其中一部分资金自然用于应对技术变革所带来的网络安全风险。她询问 Jenkins,在 AI 时代,她的公司计划如何将更多预算分配给网络安全。

“你需要意识到,如今这项预算也要用于保障向人工智能转型的安全。”Jenkins 回答说,“首先是身份管理和 AI 监管,而且我并不希望为那些由人来操作的解决方案争取更多预算。”

AI 已经展现出显著价值的一个领域是威胁狩猎,即搜索现有安全系统未能检测到的恶意活动。Nebulock 创始人兼首席技术官 Damien Lewke 介绍了一个案例:一套基于机器学习的系统检测到与 ScreenConnect 远程访问工具有关的异常活动。虽然该事件最初被归为中等严重级别,但一个 AI 智能体展开进一步调查后发现,一名攻击者正试图在某企业客户的系统中安装组件,并抹去其活动痕迹。

Lewke 表示,该企业已经部署了终端安全系统和先进的托管安全服务,但智能体开展的额外调查可能避免了该事件未被发现。

在另一个案例中,公司重组期间,智能体发现一名员工正试图通过虚拟环境窃取商业机密。 这些单独的行为孤立来看似乎都很正常,但将它们关联起来后,便显露出了可疑行为。

Lewke 认为,这些发展将改变网络安全专业人员的角色。“如今,我们讨论的是身处流程之中、负责监督智能体的人。我们认为,未来6至12个月内,情况将发生转变,人将凌驾于流程之上,成为架构师。”他说。

渗透测试领域预计也将经历一场变革。

Faze Security 首席执行官 Omer Shirazi 表示,依赖人类专家的传统模式限制了为企业全部资产提供持续安全覆盖的能力。“当我们构思创办这家公司时,我们思考的是三年后会发生什么。我们认为,首席信息安全官将需要智能体,并对它们的行为负责。如今,渗透测试行业确实正从一项服务转向全面、永久的覆盖。我们正在看到从服务向持续覆盖模式的转变。企业希望确认每项资产都经过扫描并受到保护。我们的目标是打造自主、透明的智能体,它们无需人类持续参与便可执行测试,同时其采取的每项行动都能在事后接受审查。”

对于初创企业,专题讨论传递的信息是:仅有合适的技术还不够。Lewke 表示,在为 Nebulock 融资之前,他在90天内采访了90名潜在客户,以确保公司解决的是真实的市场需求。“你需要找到一个优先级很高的问题,倾听客户的意见,而不是把一个想法强加给他们,再指望他们认可。”他说。

Flechter 最后还向年轻创业者提出了一条建议。 “有时,当你接触潜在客户时,你的解决方案似乎并不在该企业最优先考虑的事项之列。但你需要强调并说服他们相信它确实应当位列其中,因为首席信息安全官眼前有许多亟待处理的问题。”

来源

CTech