VicOne 两天内发现 28 个机器人生态零日漏洞,机器人安全能否跟上?
28 Zero-Day Findings in Under Two Days. Is Robotics Security Keeping Pace?
VicOne 借助 AI 辅助研究,在不到两天内于 Physical AI 生态的软件与工具中发现 28 个零日漏洞,涉及 Google、NVIDIA、Meta 等维护的项目,其中 75% 集中在开发、训练、仿真或验证工具。这些漏洞可能影响训练模型、测试结果的可信度以及发给机器人的指令;VicOne 还演示了利用漏洞使机器人远程停止命令失效。部分发现尚无 CVE 编号,数量可能随厂商与漏洞机构复核而变化。
正文 · AI 翻译
本文由VicOne提供。
VicOne利用AI辅助研究,在不到两天内针对支持Physical AI生态系统的软件和工具识别出了首批28个零日漏洞发现。这些项目包括由Google、NVIDIA和Meta等开发或维护的项目。
基于初步验证,全部28个发现均被归类为零日漏洞。在厂商和漏洞主管机构审查后,数量可能会发生变化,部分发现目前尚无CVE跟踪编号。
这些工具中有许多可帮助团队训练、仿真、测试和操作机器人。其中的弱点可能影响团队构建的模型、他们信任的测试结果,以及发送给机器人的指令。
这些发现对机器人团队提出了两项要求:在AI帮助更快发现弱点的同时做出响应,并评估每一项发现可能如何影响机器人的安全与运行。
AI如何改变漏洞发现
漏洞发现涉及检查代码、追踪系统之间的通信方式,以及测试疑似弱点是否确实可被利用。AI可以加速其中的部分工作,帮助研究人员在更短时间内分析更多软件。攻击者也可能使用类似能力。
当弱点是零日漏洞——此前未知且没有可用修复——更快的发现可能让团队几乎没有时间响应。虽然这种暴露并不一定意味着已经发生攻击,但团队仍需确定是否使用了受影响的软件,以及攻击者可能访问或更改什么。
这些发现在机器人生命周期中的分布位置
VicOne的发现横跨机器人生命周期的三个阶段:开发与训练、仿真与验证,以及部署与运行时。每个阶段的弱点都可能影响机器人学到什么、如何被测试以及如何被控制。
图1. 在本研究集中,75%的发现涉及开发、训练、仿真或验证工具,凸显了机器人部署前可能出现的风险。VicOne
以下场景展示了受感染的组件在每个阶段可能如何影响机器人。
开发与训练:隐藏的更改可能进入成品机器人 团队下载一个预训练模型,为其机器人进行适配。加载恶意文件可能让攻击者访问训练系统,从而更改训练数据或模型本身。被操纵的模型在常规测试中可能表现正常,但在部署后对特定物体、场景或指令做出错误响应。风险可能通过团队信任的工具进入,而无需任何人直接攻击机器人。
仿真与验证:通过的测试可能带来虚假信心 导入受感染的场景或机器人模型可能让攻击者访问仿真环境。凭借足够的控制权,攻击者可以更改模拟传感器读数、物理条件或测试结果。机器人随后可能看似通过了本应暴露不安全行为的测试,导致团队基于误导性证据批准其用于真实环境。
部署与运行时:操作员可能失去可见性或控制权 攻击者可能利用弱点更改影响运动规划的文件,或发送恶意地图数据使操作员的监控显示崩溃。入侵远程操作计算机也可能使发送给机器人的指令面临风险。取决于系统及其防护措施,这些弱点可能改变机器人运动,或使操作员无法看到正在发生的情况并及时响应。
这些是潜在后果,并非每项发现都已演示的结果。实际影响取决于攻击者的访问权限、系统设计,以及其他防护措施能否阻止这些更改影响物理行为。
在另一项演示中,VicOne研究人员提供了一个影响保护功能的具体弱点示例。研究人员利用一个漏洞使机器人的远程停止命令失效。该案例说明了为什么团队需要测试当支持防护措施的软件受到入侵时,这些防护措施是否仍然有效。
视频1. VicOne研究人员演示了一个使机器人远程停止命令失效的漏洞。VicOne
已发布的补丁仍需证明是安全的
AI可以缩短寻找弱点的时间,但机器人团队仍需确定修复是否可安全部署。即使软件维护者发布了补丁,团队也必须识别受影响的系统、检查兼容性,并验证更新是否保持了预期行为。
先前成功的测试仍然是有用的证据。然而,新发现的弱点可能揭示该测试从未检查过的条件。
三个问题可以帮助团队响应:
我们在哪里使用了受影响的软件?包括训练计算机、仿真环境和已部署的机器人。
这一弱点可能带来哪些变化?评估它是否可能影响模型、测试结果、操作员可见性或机器人行为。
我们如何验证防护措施?确认修复解决了该弱点,并且更新后的系统仍按预期运行。
当立即更新不切实际时,团队可能需要临时防护措施,例如在准备经过验证的修复方案期间,限制对受影响服务的访问。
从发现到更安全的部署
随着28项发现的细节通过协调披露陆续公布,机器人制造商下一步需要将每项发现与其对开发、部署和机器人行为的潜在影响联系起来。
这项工作还要求理解威胁可能如何影响机器人行为,以及如何保护已在运行中的系统。VicOne Radeis帮助团队识别潜在的零日漏洞、评估AI模型和系统安全性,并利用仿真在部署前评估这些风险可能如何影响机器人行为。VicOne Rthena在运行期间支持在获批策略范围内进行威胁检测与响应。
图2. 网络安全在整个生命周期中强化机器人安全证据。VicOne帮助团队在部署前针对操纵测试安全限值,并在运行中监控安全行为背后的条件。VicOne
当团队能够将发现转化为行动时,更快的漏洞发现才具有重要意义:确定哪些问题需要关注、验证防护措施是否仍然有效,并确认修复不会引入新风险。随着系统不断变化,网络安全正是以这种方式强化机器人安全。
如需深入了解网络安全如何影响机器人安全,请下载我们的白皮书《为什么机器人安全取决于网络安全:保护安全决策所依赖的信息》。