AI 热点

前以色列国防军发言人警告:下一场公众认知之战将更多发生在 AI 平台上

CTech更新于 11月19日 09:17

Former IDF spokesman warns: The next war for public awareness will increasingly play out on AI-powered platforms

AI 导读

前以色列国防军发言人 Daniel Hagari 表示,围绕公众认知与信任的斗争将更多发生在 AI 平台上,各国需要以事实核验和数字工具维护战略叙事。Anthropic 网络安全行业转型负责人 Rob Bair 称,其追踪的外国国家行为体曾利用 AI 模型自主完成网络攻击链所需步骤的 80% 至 90%。与会者还强调,小型领域模型和外围智能体框架可能增强攻击能力,而部署自主 AI 智能体的法律与运营责任仍由人类操作者及其上级承担。

推荐理由

AI 评分 54

多位网络安全从业者从攻击自动化、信息可信度与责任归属切入,呈现 AI 智能体正在改变攻防结构的具体路径。

主题

标签

正文 · AI 翻译

“防御者面对网络攻击者时始终处于劣势,因为攻击者只需成功一次,而开发防御系统的人则必须每次都成功,”Assail 首席执行官 Alissa Knight 在波士顿举行的 New Era Capital 大会上参加一场探讨网络安全与国家安全交叉领域的圆桌讨论时表示。

Knight 指出,从安全漏洞被发现到遭到利用之间的时间窗口正在急剧缩短。她表示,如今,零日漏洞在短短几小时内就能被转化为实用攻击工具,有时甚至在被发现的当天便会如此。这场讨论由 New Era 管理合伙人 Gidi Argov 主持,重点探讨自主人工智能的发展正如何改变科技公司与政府之间的责任和权力划分。与 Knight 一同参加圆桌讨论的还有以色列国防军前发言人、预备役准将 Daniel Hagari;Anthropic 网络安全行业转型负责人 Rob Bair;以及 Method Security 联合创始人兼总裁 Daniel Kelly。

1 查看图片

New Era 波士顿大会(从右至左):Daniel Kelley、Rob Bair、Alissa Knight、Daniel Hagari、Gidi Argov(摄影:Pierce Harman)

信任与脆弱性问题成为焦点,并成为人工智能时代的关键战场。Hagari 强调,在向公众发布信息之前,必须严格收集并核实事实,才能建立公信力。他补充说,围绕公众认知与信任的斗争将越来越多地在 AI 驱动的平台上展开。回顾以色列在战争期间对战略传播的管理,Hagari 表示:“首先,我认为最关键的两个要素是信任和公信力。”

他回忆称,在加沙 Al-Ahli 医院发生爆炸并引发相关指控后,以色列国防军优先收集了有关火箭弹飞行轨迹的雷达数据、无人驾驶飞行器(UAV)拍摄的画面以及截获的通信内容。这些证据旨在证明,爆炸是由巴勒斯坦伊斯兰圣战组织发射的一枚未能击中目标的火箭弹造成的。

Hagari 承认,鉴于新闻事件的发展速度,“我们为收集事实所花费的时间付出了代价”,但他强调,围绕一国战略叙事的争夺将越来越多地借助数字工具展开。他认为,各国必须超越传统防御范式,在“网络领域建立质量优势”,以保护本国的国家叙事,并防止虚假信息传播引发危机。

随后,讨论转向威胁行为者的能力。Bair 介绍了国家支持的组织在过去一年中如何大幅减少行动阻力。 他说,Anthropic 最近追踪了一些由外国国家行为者策划和管理的网络行动,这些行动利用 AI 模型自主完成了“网络攻击链所需步骤的 80% 至 90%”。

Bair 指出,这些系统正在迅速演进,并警告称,随着模型越来越能够独立构建攻击的各个行动阶段,“过去几乎所有曾经存在、且攻击者一度必须考虑的阻力都已消失”。他说,因此,确保模型遵循既定价值观和约束条件,以及确保先进系统具备限制其遭到滥用所需的安全协议和保护机制,显得尤为重要。

相关文章:

CyberArk 以 250 亿美元出售后,Udi Mokady 转向保障 AI 智能体时代的安全

“到了某个价格,你就必须答应”:CyberArk 创始人谈与 Palo Alto 达成的 250 亿美元交易

CyberArk 创始人:“没有什么能阻止我们执行计划并达到 1000 亿美元估值”

谈到攻击工具背后的技术时,Knight 认为,限制人们使用先进的云端 AI 模型并不能阻止网络攻击。“我认为,未来未必属于云端 AI 模型,”她说,并补充道,“我认为未来属于小型领域专用模型,而未来就是 AI 主权。”

她认为,威胁行为者“并不需要数万亿个参数来攻击目标”。拥有 140 亿个参数的专用模型可以在本地进行调整,并用于实施复杂攻击。Knight 还认为,真正的智能体能力,以及 AI 系统成为强大攻击工具的潜力,并不在于底层模型本身,而在于围绕模型构建的软件基础设施。“智能体能力并不存在于模型本身,而存在于运行模型的框架中,”她说。

在公司治理和监督方面,Kelly 强调,部署自主 AI 智能体并不能免除人类操作者的法律或运营责任。“智能体不会改变法律:技术如何部署的责任最终由操作者及其上级承担,”他说。

Kelly 认为,管理自主系统主要是“软件工程问题和对齐问题,而不是监管问题”。他说,各组织必须在系统中嵌入严格的控制机制、可审计性和明确的运行限制。 谈到国防和政府采购时,他指出,公共部门买家有时表现出一种“倾向:不就投资组织信息安全作出真正的决策,而是无限期地继续试点”。

尽管如此,Kelly 仍对不久的将来表达了谨慎乐观的态度。他估计,如果安全机构迅速采取行动,为网络安全团队配备针对其具体运营需求定制的工具,那么到 2027 年,国防机构可能会占据上风。

在网络防御讨论的最后,Bair 表示,组织网络安全的主要瓶颈已经转移。核心挑战不再是识别漏洞,而是应对漏洞修复中的延误和缺口。“检测安全漏洞从来都不是真正的问题,”他说,并补充称,主要的系统性负担源于“修复流程本身,以及漏洞往往长期得不到处理这一事实”。

为解决这种失衡,Bair 建议将自动扫描工具直接整合到开发人员的工作流程中。“真正让我感到兴奋的是,把这些能力交到安全团队手中,”他说。他认为,将安全检查前移至软件开发生命周期的更早阶段,可以让工程师在软件进入生产环境之前识别并修复代码中的漏洞。

来源

CTech