AI News

OpenAI 如何为 OpenClaw 常驻智能体做安全隔离

OpenAI Developers更新于 11月13日 02:44

Securing persistent agents like OpenClaw at OpenAI

AI 导读

OpenAI 介绍了在公司内部署数百个 OpenClaw 常驻智能体时采用的安全控制,包括把可信网关与不可信智能体执行环境分离、用沙箱限制网络、文件、进程和密钥访问,并强制所有智能体动作经过 Auto-review 模型审查。目前 OpenAI 内部已有超过 500 个常驻智能体在后台运行,从自动提交 PR 到持续做数据实验;其开源智能体控制平面 OpenClaw Enterprise 仍处于试点阶段,计划年底发布 1.0。

推荐理由

精选AI 评分 60

OpenAI 公开了内部 500 多个 OpenClaw 常驻智能体的隔离、沙箱与审计做法,可作为企业部署智能体的工程参考。

主题

标签

正文 · AI 翻译

当 OpenClaw 在近一年前发布时,它向世界展示了常驻智能体的能力。与涉及固定目标和人工引导的常规 codex 会话不同,常驻智能体全天候运行,范围广泛,并且能够在没有用户输入的情况下主动采取行动。

尽管常驻智能体能力极强,但迄今为止它们在现实世界中的部署仍然有限。与传统软件相比,这些部署带来了许多新挑战。对于传统软件,我们依赖配置和代码的确定性,并假定威胁(主要)来自外部攻击者。常驻智能体可以更改其配置并编写任意代码来实现目标。当智能体采取不一致的行动时,攻击来自内部。

在 OpenAI,我们目前在整个公司范围内部署了常驻智能体,包括数百个 OpenClaw 智能体。本文介绍了我们为在 OpenAI 内部署 OpenClaw 而采用的一些控制措施。

分离可信与不可信执行

为了保护常驻智能体,我们需要将可信的确定性逻辑与不可信的 LLM 执行隔离开来。可信逻辑包括网络、身份和沙箱等关键组件。这是传统的静态代码,除软件缺陷外,应按配置运行。智能体、其执行环境及其编写的代码被视为不可信。在这个环境中,智能体可以动态生成代码来实现目标,而行为没有硬性保证。

为了在 OpenClaw 中支持这一点,我们最终在开源项目中实现了远程 harness 执行。这使得 OpenClaw Gateway 能够在与智能体 harness 不同的容器(在我们的案例中,是不同的集群)中运行。

通过实现这种分离,我们可以将网关(配置智能体的组件)视为可信的确定性代码,并专注于将智能体工作负载作为不可信代码进行沙箱隔离。

强制执行硬性安全边界

智能体工作负载的安全边界通过沙箱来强制执行,从而限制智能体可以采取的行动。

对于我们的 OpenClaw 部署,我们使用了以下沙箱控制措施:

网络:控制智能体可以访问哪些端点——我们使用了由组织管理的允许列表,并明确拒绝受限端点

工作区:控制智能体可以访问哪些文件——我们只允许写入智能体工作目录

进程:控制智能体可以访问哪些进程——我们依赖通过 codex linux 沙箱实现的进程隔离

密钥:控制智能体可以访问哪些密钥——我们通过凭据代理管理密钥,因此智能体无法看到密钥

对于我们的 OpenClaw 部署,我们使用了 codex harness 内置的沙箱。以下是我们采用的一些设置,分为 requirements.toml(限制 codex 配置中可用的选项)和 config.toml(实际的 codex 配置)。请注意,我们还启用了一些额外的安全控制——移除了使用 danger-full-access 模式的能力,并依赖缓存网络搜索,该搜索通过 OpenAI 自己的索引路由搜索查询。

requirements.toml

# 排除不受限制的“danger-full-access”沙箱模式。 allowed_sandbox_modes = ["read-only", "workspace-write"]

# 允许缓存托管搜索,但不允许实时托管搜索。 allowed_web_search_modes = ["cached"]

# 要求使用托管网络代理。 experimental_network.enabled = true

# 防止用户级配置扩展域名允许列表。 experimental_network.managed_allowed_domains_only = true

# 仅允许这些目标;请替换为工作负载所需的主机。 experimental_network.allowed_domains = [ "github.com", "api.github.com", "codeload.github.com", ]

# 明确阻止这些目标,包括云元数据端点。 experimental_network.denied_domains = [ "pastebin.com", "*.pastebin.com", "webhook.site", "metadata.google.internal", "169.254.169.254", ]

config.toml

# 选择下面定义的权限配置文件。 default_permissions = "openclaw"

# 使用缓存托管搜索。 web_search = "cached"

[permissions.openclaw.filesystem] # 允许最小运行时环境所需的读取。 ":minimal" = "read"

# 允许读取和修改智能体的工作区。 "/home/dev-user/openclaw-workspaces" = "write"

# 允许读取托管资产而不修改它们。 "/home/dev-user/read-only" = "read"

# 阻止访问 SSH 凭据。 "/home/dev-user/.ssh" = "deny"

[permissions.openclaw.network] # 允许通过管理员要求的代理进行网络访问。 enabled = true

# 不继承上游代理。 allow_upstream_proxy = false

# 保持代理的本地/私有地址防护处于启用状态。 allow_local_binding = false

# 禁用 SOCKS5 监听器。 enable_socks5 = false

# 禁用 SOCKS5 UDP 支持。 enable_socks5_udp = false

# 不允许在非回环地址上使用代理监听器。 dangerously_allow_non_loopback_proxy = false

# 不允许不受限制的 Unix 套接字访问。 dangerously_allow_all_unix_sockets = false

[shell_environment_policy] # 保留对敏感环境变量的默认过滤。 ignore_default_excludes = false

# 从智能体命令环境中移除 GitHub 凭据。 # 这不会隐藏存储在可访问文件中的凭据。 exclude = [ "GH_TOKEN", "GITHUB_TOKEN", "OPENCLAW_GITHUB_BASIC_AUTH", "OPENCLAW_GITHUB_READONLY_BASIC_AUTH", ]

[apps._default] # 除非单独启用,否则禁用应用。 enabled = false

# 默认禁用破坏性应用操作。 destructive_enabled = false

# 默认禁用开放世界应用操作。 open_world_enabled = false

添加基于模型的防护措施

到目前为止我们讨论的所有控制措施都是静态的,因为它们依赖传统的确定性代码来防止智能体采取偏离对齐目标的行动。随着模型变得越来越智能,我们也必须有能够随算力扩展的防御手段——也就是其他模型——这一点至关重要。

借助 Auto-review,第二个智能体可以监控并批准主智能体的操作。持续要求人工审核会造成审核疲劳,使人类习惯于盲目接受所有权限提示。通过使用基于 LLM 的审核器作为过滤器,我们把人类的注意力留给高价值的审批。这是 OpenClaw 和 Codex 原生支持的功能。

在我们的 OpenClaw 部署中,我们对所有智能体操作强制执行自动审核。

将智能体身份与用户身份分离

当智能体采取操作时,我们需要能够审计该操作、授予智能体对资源的访问权限,并区分该操作是由智能体发起还是由用户发起。智能体身份为我们提供了实现这一点的手段。目前正在出现一些规范,例如 WAG 让智能体拥有自己的资源访问权限,还有 XAA 等规范让智能体通过 OAuth 委托代表用户行事。请注意,智能体身份不同于为机器人提供独立 API 访问权限的服务账号。两者应结合使用——例如,你的智能体应以其自身的智能体身份行事,并通过与该身份关联的服务账号访问第三方服务。

在我们的 OpenClaw 部署中,每个智能体都有一个唯一身份,并与一个 ChatGPT 服务账号关联。这使每个智能体拥有独立于用户的推理凭据,并允许团队将自定义插件连接到该智能体。这也让我们能够审计智能体的操作,并在需要时关闭推理。

观察一切

全面的可观测性让运维人员能够了解智能体的完整生命周期——从它们如何被配置到它们采取了哪些操作。对于常驻智能体而言,拥有这种覆盖范围对于追踪和检测偏离对齐目标的行动至关重要。

在我们的 OpenClaw 部署中,我们记录一切——控制平面上的每一次配置变更以及智能体的所有轮次。由于智能体轮次可能包含敏感信息,这些日志被严格锁定,仅安全团队中的少数人可以访问。

结语

在部署常驻智能体方面,我们仍处于采用曲线的起点。缺乏成熟的最佳实践使得如今许多企业难以采用智能体。

当我们在 OpenAI 推出 OpenClaw 的内部试点时,我们见证了生产力和采用率的巨大跃升,公司内技术和非技术团队都是如此。我们现在有超过 500 个智能体在后台主动运行,从事有意义的工作——从根据产品反馈自动提交 PR,到持续对新功能进行数据实验。

在 OpenAI dev day 上,我们发布了 OpenClaw Enterprise(OCE),这是一个开源、厂商中立的智能体控制平面。如果你使用 OCE,在使用标准 codex 预设时,你可以启动一个内置了我们所讨论的许多防护措施的智能体。请注意,该项目目前仍处于试点阶段,我们计划在今年年底前发布 1.0 版本。

我们相信,AI 在工业领域的许多最大收益将来自常驻智能体。通过分享我们所学到的经验并以开放方式构建 OCE,我们希望让所有人都能更安全地部署它们。

来源

OpenAI Developers