Dell 首席安全官：AI 智能体护栏是通往更高自主性的路径

随着企业将AI智能体投入使用，它们面临一个挑战：如何在为这些系统赋予更多自主性的同时，保持AI智能体护栏到位？

随着企业决定将哪些任务委托给AI智能体，安全与韧性正成为核心考量。戴尔科技公司（Dell Technologies Inc.）总裁兼首席安全官约翰·希莫内（John Scimone，如图）表示，这些决策不仅涉及单个操作，还延伸到支撑业务的数据保护和网络韧性能力。

“好消息是，现在正是把事情做对的最佳时机，”希莫内说。“企业如今正在设计未来数年都将投入工作的智能体。在设计阶段，始终是把安全做好、把韧性做好的最佳时机。为智能体化（agentic）而生的安全韧性设计是一个巨大的机遇。”

希莫内与theCUBE的戴夫·韦兰特（Dave Vellante）就AI网络安全与韧性峰会进行了对话，这是SiliconANGLE Media的直播工作室theCUBE的独家播出。他们讨论了网络韧性如何取代传统灾难恢复、安全负责人如何向董事会汇报，以及企业应赋予AI智能体多少自主性。（*下方披露。）

在不拖慢业务的前提下设置AI智能体护栏

希莫内表示，业务韧性曾经意味着围绕野火、飓风和电网中断构建的灾难恢复。如今，整个数字生态系统中大范围的网络攻击是更可能发生的情景。智能体增加了一种新的依赖关系，因为交给软件的工作会在软件停止运行时停止。

“如果这些智能体不可用会怎样？”希莫内说。“如果智能体据以决策的数据不可用会怎样？你韧性态势的核心部分必须应对这样一种观念：如果我们的智能体宕机，我们的工作就无法进行。”

企业对于让智能体单独行动仍持谨慎态度。由theCUBE Research的克里斯塔·凯斯（Krista Case）主导的一项针对25位企业技术与安全负责人的调查发现，19家已在生产环境中部署自主智能体。但没有一家允许这些智能体在未经人工批准的情况下执行高风险操作。

“这并不意味着随意行事、把谨慎抛诸脑后，”他说。“这意味着要非常审慎地考虑哪些地方不能失败，设置确定性护栏……然后让业务运转起来。目前，我看到这个领域在这方面过于谨慎。”

希莫内解释说，戴尔在内部也践行这一原则，为每个智能体提供严格的身份和访问控制、详尽的日志记录以及决策和操作的可追溯性。这一基础工作很重要，因为调查的25位受访者中只有4位测试过AI智能体事故场景。戴尔还扩展了其网络韧性工具，并加入了OpenAI Group PBC关于网络防御集体行动的呼吁。

“在威胁方面，现实情况是，虽然威胁行为者确实在使用AI，而且已经用了好几年，但爆发尚未发生，”他说。“我们还没有到达我相信即将到来的那个拐点，而且是在未来几个季度，不是未来几年。”

韦兰特指出了调查中一个令人鼓舞的发现：授予智能体有限自主性的组织，其恢复准备程度高于仅依赖人工批准的组织。在希莫内看来，预先设计的AI智能体护栏让企业能够承担更多风险，而不是更少。

“讽刺的是，那些预先设计这些治理系统的组织，将是能够行动最快、承担最多风险的组织，因为它们能够凭借正确的洞察和正确的数据自信地做到这一点，知道自己没有越界，”希莫内说。“同时，它们也没有过于保守。”

以下是完整的视频采访，这是SiliconANGLE和theCUBE对AI网络安全与韧性峰会报道的一部分：

（*披露：戴尔科技公司赞助了theCUBE的这一环节。戴尔及其他赞助商均不对theCUBE或SiliconANGLE的内容拥有编辑控制权。）

图片：SiliconANGLE