AI 末日论是干扰项：企业真正该担心的是失控的 AI 智能体

如果你消费任何新闻媒体，就很难忽视围绕AI行业日益高涨的危言耸听和末日警告。这种警告AI系统对人类构成“生存风险”的叙事，让网络安全公司太容易跟风造势，让恐惧来推销。然而，聚焦“末日”是错误的，因为它忽视了智能体AI如今给组织带来的更直接的风险。

当然，AI智能体脱离组织控制独立行动会带来明显风险。就在最近，来自澳大利亚和美国的报告发现，OpenAI的AI智能体在两国政府系统上超出了其任务范围。

然而，AI末日情景的威胁被夸大了。组织不应执着于假设，而必须面对这一新现实，并确保具备确定性保障措施以实现运营韧性。

然而，互联网远比“终止开关”理论所假设的更加分散和多样。它作为一个“网络的网络”运行，由数十亿组件构成，分层于不同架构中，并由无数运维团队以不同标准和工具加以防护，因此没有任何单一开关可供任何人——无论人类还是机器——按下，也没有任何单一漏洞或漏洞链可被利用来产生这种终极效果。

AI可能构建并释放工程化病原体，或侵入气隙隔离的核系统，这种想法或许能成为电影院里引人入胜的观影体验。但对于运营威胁评估而言，这远非可信情景。

视线之外，控制之外

随着智能体AI持续演进，两个因素已从根本上改变了企业风险的性质。

一方面，AI如今能让恶意行为者在几分钟而非几个月内发现并利用网络漏洞。等到基于概率的AI防御措施识别出可疑活动时，往往已来不及应对威胁。由于它们依据统计可能性而非固定规则运作，即使最好的防御也会漏掉某些恶意活动，而攻击者只需突破一次

另一方面，员工的“影子AI”使用让了解需要防御什么变得困难得多。云安全联盟调查的 organizations 中，高达82%在过去一年发现了安全或IT团队不知道正在运行的AI智能体，尽管68%报告称对其智能体的可见性高度自信。另外，安永发现，四分之一使用智能体AI的美国大型企业承认，他们无法检测到在企业内部运行的未经授权的智能体。

自然，这两种转变都给企业系统带来了巨大的运营压力。二者叠加使组织处于相当不利的境地：识别和修复暴露漏洞太慢，且对哪些系统首先暴露一无所知。

控制可控之事

组织需要对业务中运行的每个智能体建立实时清单，无论是否获准，每个智能体都要有指定负责人，并明确界定其可访问和可执行的范围。这是控制“可控之事”的第一步，因为虽然AI模型可能是概率性的，但围绕它们建立的控制可以是确定性的、固定的且清晰界定的。

在实践中，这意味着每当智能体提议某项操作时，一个独立于模型本身的单独执行层必须验证该操作是否被允许，并维护审计记录。然而，只有11%的组织会在智能体超出其范围时自动阻止其操作，大多数依赖人工批准或仅作记录。澳大利亚事件显示了依赖目标系统说“不”的代价：访问被拒后，智能体找到了另一条进入途径。更广泛的治理架构还必须能够持续识别、授权和验证所有智能体，以防止不可预见的运营风险成为现实。所有这些都需要快速进行，因为以机器速度移动的攻击需要以机器速度移动的规则。

无论多么引人注目，自主AI系统引发的大量末日报道都与现实相去甚远。真正值得担心的风险远比一个决定毁灭我们的AI更为平淡无奇：一个智能体在你的业务内部以无人能看见的速度行动，却拥有无人授予它的权限。

速度和可见性问题都是可以解决的，只要治理AI的安全系统是确定性的，并且能够以其运行速度准确验证和跟踪每个智能体。

对于董事会和安全负责人而言，这归结为三个实际问题：我们是否知道环境中运行的每个智能体？每个智能体是否都有负责人和明确的限制？我们能否在未经授权的操作执行前阻止它？帮助客户弥合这些实际差距，正是网络安全提供商在韧性方面能做的远胜于兜售对假设未来的恐惧的事情。

David Williams是FIOR Group的创始人兼首席执行官，该公司是AI的身份与执行层。FIOR的AI Gateway使组织能够识别AI智能体，确定每个智能体被授权做什么，并在操作执行前强制执行这些权限。FIOR与寻求安全、大规模部署AI智能体的企业、政府、科技公司和基础设施提供商合作。

了解更多

mvp-article-cont