Bold Security 联合创始人兼 CEO Nati Hazut 访谈：用端侧小模型守护企业数据

Nati Hazut 是 Bold Security 的首席执行官兼联合创始人。他此前联合创立了 SAM Seamless Network 和 Polyrize，在联网设备安全、身份、云权限和数据保护领域积累了丰富经验。他在 Bold 的工作将这些经验应用于保障员工、AI 智能体与敏感企业数据之间的交互安全。

Bold Security 开发端点数据保护技术，利用直接运行在设备上的小型语言模型对敏感信息进行分类，并理解其使用方式。其平台为安全团队提供控制手段，可对用户进行引导、重定向其活动，或在浏览器、桌面应用和 AI 智能体上阻止高风险操作。在本次访谈中，Hazut 讨论了影子 AI、端侧智能、自主智能体以及围绕企业数据不断变化的安全边界。

在与 Hadar Krasner 和 Omri Mallis 共同创立 Bold Security 之前，您曾联合创立 SAM Seamless Network 和 Polyrize。您看到企业安全和 AI 领域发生了哪些变化，从而确信有必要从零开始再创办一家安全公司？

AI 带来的主要变化是工作发生的位置发生了转移。几十年来，人们用公司数据所做的最敏感的事情都发生在浏览器和 SaaS 应用中，而这正是安全体系重点关注的地方。如今，更多此类工作发生在设备本身上：人们在桌面 AI 助手中起草内容，将源代码粘贴到原生应用中，运行直接在笔记本电脑上访问文件、应用和公司系统的智能体。

这种转变打破了大多数安全产品赖以构建的假设。网络检测只能看到经过它的流量，而桌面应用会加密自己的流量并绕过代理。CASB 只能看到经过批准的云应用。DSPM 只能看到存储在云存储中的数据。它们都看不到本地文件进入桌面 AI 应用，也看不到智能体在无人操作键盘的情况下移动数据。

我们创办 Bold，是因为端点正是这一切汇聚的地方。你可以看到数据、与数据交互的员工或智能体、他们试图做什么，以及信息流向何处。而且你可以在敏感数据离开公司控制之前采取行动。

影子 AI 的范围可能从员工使用个人 ChatGPT 账户，到桌面应用、浏览器扩展、API、模型上下文协议连接，以及日益自主的智能体。目前哪些形式的影子 AI 最难被企业安全团队检测和控制？

一年前，所有人都在担心“影子 AI”，但这场讨论正在走向深入。企业安全团队逐渐接受一个事实：员工采用新 AI 工具的速度比以往任何时候都快。因此，问题与其说是清点工具，不如说是控制流经这些工具的数据。

当然，你无法控制你看不到的东西。而最难看到的渠道，是那些从不经过任何人监控的网络路径的渠道。桌面应用直接从设备读取文件并加密其流量，因此没有任何数据经过为检测而构建的工具。智能体拥有对公司信息的访问权限，并且无需员工每次交付就能持续使用这些信息。

所有这些都是新的数据外泄渠道，而流经它们的内容才是关键问题。一份公开文件进入经批准的企业账户，与客户数据库或专有源代码进入个人账户，是完全不同的事件，而这种差异只有在数据所在之处和操作发生之处才能看到。因此，你看不到的影子 AI，也正是数据问题最关键的地方。

Bold 采取端点优先的方法，在设备本地运行 AI，而不是主要依赖网络或云监控。端侧模型能理解 AI 交互中的哪些内容，而这是传统数据丢失防护做不到的？

Bold 有两点不同做法。第一，我们用 AI 保护敏感数据，而无需将数据发送给另一个 AI 服务进行分析。我们的小型语言模型直接运行在设备上，能够理解哪些数据敏感、谁在访问这些数据以及数据流向何处。这使我们能够实时识别并阻止高风险操作，而无需承担将所有内容发送到云端所带来的延迟和成本。

第二，我们超越了传统安全工具所监控的渠道。市场上大多数产品仍聚焦于浏览器和网络流量，但越来越多的敏感数据正通过桌面 AI 应用、编码工具、终端和自主智能体流动。这些渠道对传统 DLP 和云安全产品来说要难看得多。

通过在端点运行，我们可以保护所有这些环境中的数据，并在敏感信息离开公司控制之前进行干预。

你们的技术不仅旨在理解正在被访问的是什么数据，还要理解某个操作背后的上下文和意图。你们如何区分敏感信息的合法使用与代表实际安全风险的行为，同时又不产生过多的误报？

在这里，上下文就是一切。你不能把每一次文件上传或每一个访问数据的智能体都当作安全事件来处理，否则谁都没法完成工作。

同一个文件在一个地方是常规操作，在另一个地方却可能是严重问题。客户名单出现在支持工具里是意料之中的，而上传到个人账户则是真正的问题。源代码应该留在代码仓库里，而不是出现在发给消费级 AI 工具的提示词中。

一个只知道内容匹配了某条规则的工具，要么把两种情况都标记出来，要么两种都不标记。误报正是由此产生的。了解数据是什么、谁在移动它、它要流向哪里，才能把正常的 AI 使用与真正的风险区分开来。

AI 智能体引入了一种不同的安全模型，因为软件能够越来越多地访问文件、调用工具、通过 MCP 服务器建立连接，并在有限的人工参与下采取行动。当与敏感企业数据交互的主体可能是自主智能体而非员工时，端点安全需要如何演进？

安全体系在很大程度上是围绕人构建的，但智能体现在能够以机器速度行动，打开文件、调用工具、移动数据，而无需有人批准每一步。安全需要以同样的速度运行。许多产品利用 AI 在事后分析事件。我们则利用它实时理解和阻止高风险操作，包括发生在浏览器之外的操作。

智能体可以通过桌面应用、终端，或它在完成任务过程中发现的其他工具来工作。无论责任在人还是在智能体，安全都需要在这些环境中跟随数据和操作。

这也引出了安全团队此前从未需要面对的问题。当有风险的事情发生时，是这个人有意为之，还是智能体搞错了？这两种情况需要不同的应对方式。如果员工做出了糟糕的决定，你要辅导他们。如果智能体在做没人要求它做的事，你要阻止它。

端点正是你能分辨出差异的地方，因为数据、进程和操作在这里同时呈现。

许多企业应对生成式 AI 风险的方式是限制或禁用某些工具。你认为组织是否正在转向这样一种模式：几乎任何 AI 工具都可以被允许使用，只要围绕它能访问的数据以及这些数据能流向何处设有管控？

一刀切的禁令解决不了这个问题。员工可以找到一个新的 AI 工具，几秒钟内就开始使用，而且他们大多数人并不是想绕过安全。他们只是想更快地完成工作。

更好的问题是，当他们使用这些工具时，公司数据会怎样。

如果某人用个人 AI 账户做无害的工作，也许你只需把他们引导到企业账户。如果他们即将把源代码、客户信息或凭据发送到公司不允许的地方，那么安全就需要介入。

我认为这就是未来的方向。给人们使用 AI 的空间，但要在数据周围设置管控。知道什么在被访问、它要流向哪里，以及你何时需要干预。

在本地运行AI在延迟和隐私方面具有潜在优势，但终端设备的计算和内存资源同样有限。在构建能够直接在员工设备上实现语义数据分类和实时执行的模型时，你们遇到了哪些技术权衡？

你不能把巨型模型塞进别人的笔记本电脑，耗尽他们的CPU和内存，然后把这称为安全。如果你的安全产品让电脑变得难以使用，员工会讨厌它，IT部门也会把它关掉。

所以确实存在非常现实的权衡。模型必须足够好地理解数据，才能区分无害内容和敏感内容，但它也必须足够快、足够小、足够可靠，以便在后台持续运行。

最初的工作是构建能够在不同类型的计算机上提供有用分类而不会拖慢它们的模型。我们已经完成了这项工程工作，因此客户不必自己做出这些权衡。

在整个开发过程中，用户体验一直是我们的首要任务。我们的产品使用的计算资源约为传统竞争对手非AI代理的20%，同时在操作发生时在本地做出决策。敏感数据无需仅仅为了判断其是否敏感而离开设备。

Bold可以识别AI工具、账户和智能体活动，同时进行辅导、重定向或阻止高风险操作。你们如何确定系统何时应仅警告用户，何时应自动停止某项操作？

想想一位好同事会怎么处理。如果你正要把一份草稿粘贴到你的个人ChatGPT里，他们会凑过来说：“嘿，我们有公司账户可以用这个。”如果你正要把客户数据库上传到你的个人Drive，他们会抓住你的胳膊。

我们尝试以同样的方式运作，并发现辅导在将用户引导至安全替代方案方面的有效率至少为90%。大多数情况是有人不小心登录了错误的账户，或者有人不知道公司关于数据可以流向何处的政策。

在哪里阻止最终由客户决定，每家公司划定的界线各不相同。我们的工作是给他们提供背景信息和信心，以便做出正确的决定。对于更复杂的风险流程，这意味着我们之前谈到的背景信息，要对照用户自己的历史甚至其同行群体来衡量。

你的职业生涯从在SAM保护联网设备，到在Polyrize负责身份和云权限，再到如今在Bold保护人员、AI智能体和企业数据之间的交互。在这三代网络安全演进中，你对基本安全边界的看法发生了怎样的变化？

我对基本问题的看法更加清晰了。贯穿始终的主线是让安全贴近行动发生的地方，并使其能够规模化运作。

在SAM，我们将企业级安全带到资源非常有限的路由器上。这教会了我们如何高效地将先进技术带到边缘。在Polyrize，我们专注于通过可见性和安全态势管理来保护跨云和SaaS环境的数据。了解暴露面至关重要，但这并不一定能让你阻止高风险操作。

Bold将这些经验结合在一起。我们将智能放在端点——即人员和AI智能体与数据交互的地方——并给安全团队提供背景信息，以理解风险并实时干预。

网络和云安全仍然重要，但端点可以通过桌面应用、本地文件、个人账户以及设备上运行的智能体看到活动。我认识到，安全在何处、何时运作，与其智能程度同样重要。

展望未来三到五年，随着员工与日益自主的AI智能体协同工作，您预计企业端点将变成什么样？我们是否会达到这样一个阶段：每台设备都有效地运行着自己的智能安全层，持续决定哪些人和智能体可以与特定数据交互？

我认为这正是我们前进的方向。

端点将成为一个智能安全层，它了解设备上的数据，知道与之交互的是人还是智能体，并在本地决定什么应该发生、什么不应该发生。

随着智能体变得更加自主，这一点更加重要。一个人可能同时有多个智能体代表其跨文件、应用和公司系统工作。安全不能依赖于这个人批准每一步，因为他们越来越不会一直盯着。

数据仍然需要保护，但访问数据的行为者数量将远远超过键盘前的一人。安全系统需要与智能体通信、做出决策，并在操作发生时自主响应。运营这些系统的人将越来越多地监督控制措施和决策，而不是审查每一个单独事件。端点正是这些决策可以在数据仍处于公司控制之下时发生的地方。

感谢这次精彩的采访，希望了解端点数据保护和安全采用企业AI的读者可以访问Bold Security。