人工智能
使用 Skyflow 和 Amazon Bedrock AgentCore Gateway 保护智能体工具调用在本文中,我们将介绍 Skyflow 和 Amazon Bedrock AgentCore Gateway 如何防止敏感数据进入 AI 智能体调用的工具,以及这些工具提供给模型的上下文。我们将 Skyflow Detect 作为请求和响应 拦截器添加到 Amazon Bedrock AgentCore Gateway。Skyflow 拦截器会在数据到达工具之前对其进行去标识化,在智能体读取结果之前将其还原,并在智能体打开文档之前用清理后的副本替换原文档。您的智能体和工具无需更改。
Skyflow 已在 AWS Marketplace 上架,该拦截器也已在 GitHub 上开源。
智能体通过工具采取行动,而工具会传输数据
智能体已经从回答问题发展到采取行动,而它们通过工具来行动:模型上下文协议(MCP)服务器、SaaS API、文档存储和网络搜索。智能体每次调用工具都是一次数据流动。大多数企业控制措施覆盖了模型的输入和输出,但很少覆盖智能体发送给工具的数据,或这些工具返回的数据。
这一缺口主要体现在三个方面:
- 敏感数据通过工具参数外泄。 模型根据其上下文中的所有信息生成参数,其中包括工具并不需要的详细信息。让智能体查询某位客户时,该客户的姓名、账号或电子邮件地址会直接进入发送给第三方服务器的查询。该服务器位于您的 AWS 账户和合规范围之外。
- 敏感数据通过工具结果返回。 抓取的网页、CRM 记录和案例备注会进入模型的上下文、记忆、追踪记录和日志,即使任务根本不需要这些信息也会如此。
- 文档绕过文本检查。 Amazon Simple Storage Service(Amazon S3)、Box 和 Google Drive 等文档工具返回的是签名 URL,而不是文本。检查字符串的过滤器看到的只是一个链接,因此会予以放行,随后智能体便会打开原始文件。
逐个修补智能体无法在不同团队和框架之间实现规模化,也无法覆盖第三方工具。控制措施需要部署在每次工具调用都会经过的位置,从而以相同方式对每个智能体和工具实施授权、内容安全和数据保护。
AgentCore Gateway 正是这样的位置。无论智能体使用何种框架或模型,它都能作为智能体所用全部工具的前端。它的作用不仅是路由这些流量。借助 AgentCore Gateway 拦截器,您可以让自己的代码以 AWS Lambda 函数的形式在每次经过网关的调用中运行。请求拦截器会在每次调用到达工具之前查看调用,而响应拦截器会在每项结果到达智能体之前查看结果。两者都可以检查有效负载、重写有效负载或阻止调用。因此,网关自然适合在 Policy 和 Guardrails 之外增加数据保护。这项单一控制措施只需附加一次,无需更改智能体或工具代码,即可覆盖网关后面的所有智能体和工具。
示例:欧洲一家大型银行的争议解决智能体
假设欧洲一家大型银行同时经营零售和企业银行业务,并受到严格的数据驻留要求约束。其运营团队正在采用智能体来调查银行卡交易争议。
一名分析师要求智能体调查一笔有争议的交易。智能体先在网上搜索商户信息,然后从 Amazon S3 获取争议案例备注并进行总结。如果没有保护措施,就会发生三件事:
- 模型使用上下文中的全部信息构建搜索查询。搜索服务提供商会收到“Mateo Jackson dispute AnyCompany Electronics London”。其中包含发送给第三方的客户姓名,而这次搜索实际只需要商户名称。
- 抓取的商户网页会把无关的个人数据带入模型上下文。
- 智能体会读取原始案例备注,其中包含客户的全名、电子邮件地址、电话号码和银行卡详细信息。
在网关上启用 Skyflow 拦截器后,同一工作流的运行方式将有所不同:
- 搜索服务提供商收到的是“[NAME_AJbrIud] dispute AnyCompany Electronics London”,其中 [NAME_AJbrIud] 是可逆的保管库令牌。返回的商户搜索结果保持不变,服务提供商始终不知道客户是谁,而分析师仍能在智能体的回答中看到真实姓名。
- 网络内容在到达模型时已经过去标识化处理。
- 智能体只会收到一个指向案例备注去标识化副本的链接。
解决方案概述
Skyflow 拦截器是一个 AWS Lambda 函数,同时附加到 AgentCore Gateway 的两个拦截点:
REQUEST在网关调用工具之前运行。RESPONSE在工具返回响应之后、智能体看到结果之前运行。
在每个拦截点,它都会调用 Skyflow Detect,以查找姓名、电子邮件地址、电话号码、政府签发的身份证件号码、银行卡号、出生日期和位置等敏感实体。它会将这些实体替换为令牌,或还原其原始值。Skyflow Vault 存储原始值,以便获得授权的系统能够将令牌还原。
Skyflow 网关配置会为每个工具决定采用以下三种保护模式中的哪一种:Shield the tool、Shield the model 和 Shield the document。
| 模式 | 具体操作 | 谁能看到真实数据 | 工作原理 | 典型用途 |
| Shield the tool | 敏感值在参数传出时被移除,并在结果返回时得到还原 | 智能体和用户可以看到,工具看不到 | 使用可逆的保管库令牌,因此工具返回结果中包含的令牌值会在智能体读取前得到还原 | 无需客户身份即可完成任务的网络搜索、数据扩充和第三方 API |
| Shield the model | 提示、历史记录、文件和工具结果会在模型读取前进行去标识化处理,回答则会在返回途中重新标识 | 智能体和用户可以看到,模型看不到 | 模型调用通过网关的推理端点进行。返回时,只还原为该次调用生成的令牌 | 客户对话、抓取的网络内容、跨区域模型或第三方模型 |
| Shield the document | 将文件的签名 URL 替换为指向去标识化副本的 URL | 智能体一侧无人能看到 | Skyflow Detect v2(预览版)会获取文件、清理文件,并将副本存储在获准的区域中。文件绝不会经过 Lambda,因此负载限制不会约束文件大小 | Amazon S3、Box 和 Google Drive 中的案例备注、陈述及合同 |
在生产环境中,有四项特性至关重要:
- 无需更改智能体或工具。 智能体仍像以前一样发现网关,并使用其 AWS Identity and Access Management(AWS IAM)角色对请求进行签名。为了保护模型,智能体将其模型客户端指向网关的推理端点。除此之外,拦截器对智能体不可见。
- 无需重新部署即可更改配置。 策略会按服务器和工具分别设置保护方向、实体类型及令牌类型(可逆的保管库令牌或单向令牌)。策略存储在 AWS Systems Manager Parameter Store 中,更改后无需重新部署即可生效。
- 故障时默认阻止。 如果无法完成去标识化处理,调用将被扣留,而不会以明文形式发送。拦截器只从允许列表中的位置获取文件,并会阻止无法检查的流量,而不是让其悄然通过。
- 基于 AWS 构建的运维能力。 Skyflow API 密钥存储在 AWS Secrets Manager 中。每项决策都会记录到 Amazon CloudWatch,并提供用于告警的指标;拦截器绝不会记录凭证或原始值。
架构
参考架构展示了各组件所处的位置。其后的三个演练会跟踪一次工具调用分别经过 Shield the tool、Shield the model 和 Shield the document 模式的过程。
下图展示了拦截器如何位于 AgentCore Gateway 与工具之间。
图 1:参考架构。编号步骤与以下流程相对应。
流程如下:
- 智能体通过 AgentCore Gateway 调用工具,并使用其 IAM 角色对调用进行签名。
- 该
REQUEST拦截器根据策略匹配工具,并在需要时使用 Skyflow Detect 对参数进行去标识化处理。 - 网关调用工具,工具接收到的是令牌,而不是敏感值。
- 该
RESPONSE拦截器按照策略要求,对结果进行重新标识或去标识化处理,或者替换文档 URL。 - 智能体接收结果。
智能体运行在 AgentCore Runtime上;这是 Amazon Bedrock AgentCore 的一项功能。在该流程之外,拦截器还会从 Parameter Store 读取策略,从 Secrets Manager 读取 Skyflow API 密钥,并将每项决策记录到 Amazon CloudWatch。它会调用获准区域中的 Skyflow Detect 和 Skyflow Vault,对数据进行去标识化和重新标识。调用目标位于网关之外,包括第三方网络搜索 MCP 服务器、Amazon S3 中的案例备注存储,以及网关通过推理目标访问的 Amazon Bedrock 模型。对于模型调用,拦截器会在 Amazon DynamoDB 中短暂记录每次调用生成了哪些令牌,因此只还原这些令牌。该记录不包含任何原始值。对于文档,Skyflow Detect 会通过预签名 URL 直接获取文件,因此文件字节绝不会经过 Lambda。
演练:Shield the tool
以下逐步展示争议案例中的网络搜索。客户姓名以令牌形式传出,并以真实值形式返回,因此搜索提供商始终看不到客户姓名,而分析师仍然可以看到。
图 2:Shield the tool。在搜索提供商看到查询之前,客户姓名会被替换为保管库令牌;在智能体读取结果之前,姓名会被还原。
演练:Shield the model
以下展示分析师要求智能体起草客户回复的过程。客户的姓名和电子邮件地址以令牌形式传给模型,返回的草稿中则已还原为真实值。
图 3:Shield the model。拦截器会在模型读取提示和对话历史记录之前对其进行去标识化处理,并在智能体读取回答之前,还原它为该次调用生成的令牌。
演练:Shield the document
以下展示案例备注请求。拦截器从不处理文件本身,而是检查预签名 URL 并将其交给 Skyflow Detect,后者会返回指向清理后副本的链接。
图 4:Shield the document。拦截器根据允许列表和大小限制检查预签名 URL,Skyflow Detect 获取文件并对其进行去标识化处理,智能体则收到指向清理后副本的链接。
以下并列展示了存储在 Amazon S3 中的案例备注,以及智能体收到的副本:
图 5:存储的案例备注(左)和智能体收到的去标识化副本(右)。
像 [NAME_AJbrIud] 这样的令牌是保管库令牌,授权用户可通过 Skyflow 将其还原。像 [NAME_1] 这样的令牌是单向计数器,任何人都无法将其还原。
以下视频展示了 Shield the document 的端到端流程。智能体请求争议案例备注,收到的是指向去标识化副本的链接,而不是原始文件。
视频 1:Shield the document 实际运行效果。未使用 Skyflow 时,智能体读取原始案例备注;在网关上启用 Skyflow 后,智能体读取的是去标识化副本。
它如何与 AgentCore 的其他功能协同工作
该拦截器是对 AgentCore 和 Amazon Bedrock 现有控制措施的补充:
- Amazon Bedrock AgentCore 中的 Policy 使用 Cedar 和 Dogwood 授权智能体可以执行的操作。它不仅仅决定某个主体能否调用工具,还可以根据智能体行动轨迹中的先前操作作出决策、控制对智能体和模型的访问、阻止将特定参数发送给特定工具,并使用 Amazon Bedrock Guardrails 检查经过网关的数据。Skyflow 与 Policy 协同工作。当 Policy 允许某项调用时,Skyflow 会将其中的敏感值替换为可逆令牌,使调用能够在不向工具或模型暴露真实数据的情况下通过。Policy 决定智能体可以做什么,而 Skyflow 则控制智能体执行操作时如何处理敏感数据。
- Amazon Bedrock Guardrails 负责模型交互中的内容安全和敏感信息遮蔽。Skyflow 在同一网关上进一步提供由保管库支持的令牌化和文档去标识化功能。将二者结合使用,可为每次模型和工具调用提供分层保护。
- Amazon Bedrock AgentCore 的一项功能 AgentCore Identity,以及 AWS IAM 保持原样。拦截器不会添加任何需要智能体管理的凭证。
- Amazon Bedrock AgentCore 的一项功能 AgentCore Observability,以及 Amazon CloudWatch 会将拦截器决策与网关跟踪记录在一起。
部署解决方案
Skyflow 拦截器已在 GitHub 的 agentcore-skyflow 代码库中以 MIT 许可证开源。Skyflow 可通过 AWS Marketplace获取。要将拦截器添加到您已在运行的网关:
- 在 AWS Marketplace 中订阅 Skyflow,创建保管库,并将其 API 密钥存储在 AWS Secrets Manager 中。
- 使用 AWS Cloud Development Kit(AWS CDK)从代码库部署拦截器堆栈。该堆栈会创建 Lambda 函数、相应的策略参数、用于保存模型调用记录的 DynamoDB 表,以及 Amazon CloudWatch 指标和警报。
- 在两个拦截点将拦截器附加到网关。代码库中的一个脚本可完成此操作,并授予网关角色仅调用该函数的权限。如果您使用 AWS CloudFormation 或 AWS CDK 管理网关,请改为在其中声明拦截器,以便后续堆栈更新能够保留该拦截器。
- 要保护模型,请向网关添加推理目标,并将智能体的模型客户端指向网关的推理端点。
该代码库还包含本文所述的完整参考部署,包括智能体、网关及其目标;您可以使用 Amazon Bedrock AgentCore 的一项功能 AgentCore CLI 进行部署。
有五种接入方式:
- 现有网关。 将拦截器附加到您已在运行的网关。智能体和工具保持原样。
- 新智能体。 从一开始就将工具置于 AgentCore Gateway 之后。
- AWS 之外的 MCP 服务器。 将它们作为网关 MCP 服务器目标接入,使其流量通过拦截器。
- 文档存储。 对于返回签名 URL 的工具,可将其位置添加到策略的允许列表中,从而获得保护。
- 模型调用。 添加推理目标,并通过网关发送智能体的模型调用。
Skyflow 提供多种保管库部署模型和区域选项,以满足数据驻留要求。请参阅 Skyflow 部署模型.
注意事项
- 格式。 文本和 Office 格式(TXT、JSON、CSV、XML、JSONL、DOCX、XLSX 和 PPTX)会保留可逆的保管库令牌。PDF 和图像会被完全去标识化,但接收的是单向令牌,因此无法从这些文件中恢复原始值。
- 可用性。 字符串去标识化和重新标识化已正式发布。通过签名 URL 进行文档去标识化使用尚处于预览阶段的 Skyflow Detect v2。AgentCore Gateway 的可用性因 AWS 区域而异。部署前,请查看 Amazon Bedrock AgentCore 文档中的 支持的 AWS 区域 。
- 文档大小和延迟。 文档去标识化在设计上设有明确限制。拦截器会在提交前检查文件大小,因此超过您所配置上限的文件会立即被拒绝,而不会因超时失败。限制范围内的文件可在 AgentCore Gateway 允许的连接时间窗口内完成处理。去标识化所需时间随文档大小增加,因此请根据您的文档设置大小上限。Skyflow Detect v2 尚处于预览阶段。在扩大部署范围之前,请在试点期间使用您自己的工作负载和区域验证延迟。
结论
智能体的可信度取决于它们所传输的数据。借助 AgentCore Gateway 和 Skyflow 拦截器,您可以在每次工具调用都必须经过的唯一位置实施隐私控制。它可双向工作,涵盖文档和文本,并且无需更改智能体代码。
从何处开始
- 选择一个涉及客户数据且会调用您账户之外至少一个工具的智能体工作流。
- 列出绝不能外传的实体类型,以及获准查看这些实体的工具。
- 从 GitHub 代码库 部署拦截器,并将其附加到该工作流的网关。
- 先从 Shield the tool 开始。然后为文档存储添加 Shield the document,并在智能体的模型调用通过网关后添加 Shield the model。
- 先观察拦截器的 CloudWatch 指标一周,再扩大部署范围。
- 如有其他问题,请参阅 Skyflow SDK 文档.
AI 热点