人工智能

Duco 如何借助 Amazon Bedrock AgentCore 改造金融数据自动化

金融机构面临一项关键挑战:要在全球最严格的监管框架之一下,以速度、准确性和合规性处理海量数据。Duco 是面向金融服务的智能体运营平台,服务一级银行及其他金融机构。它每月为 200 多家客户处理 200 亿笔交易,客户包括前 20 大银行中的 7 家和前 20 大资产管理公司中的 10 家。为跟上不断增长的数据处理需求,Duco 从传统机器学习模型演进到 Amazon Bedrock 和 Amazon Bedrock AgentCore 的智能体 AI 能力。本文介绍 Duco 如何在这些服务上重建其智能体 AI 技术栈,在缩短部署时间和降低客户接入成本的同时,保持每家银行的数据隔离。

挑战:在受监管环境中扩展智能能力

Duco 的平台让团队能够利用 AI 和无代码模型自动化关键任务数据流程,涵盖从数据提取到下游发布的各个环节。该平台此前已使用传统机器学习模型进行预测性标注和模式识别,帮助银行整合并自动化了 20,000 多个流程。

然而,这些经典机器学习方法存在固有局限。它们需要大量历史数据进行训练,难以应对新场景,并且每个新用例都需要大量定制。最关键的是,它们无法快速适应现代金融运营中多样且不断演变的数据格式和业务规则。

“经典预测模型在一定程度上有效,但不够敏捷和灵活。传统机器学习模型只能放大它们已经学到的东西——无法帮助迈出下一步或发现新问题。”

— Rob Gates,Duco 首席架构师兼创新官

解决方案:Amazon Bedrock 和 Bedrock AgentCore

Duco 做出了战略决策,采用 Amazon Bedrock 来托管访问基础模型,并采用 Amazon Bedrock AgentCore 大规模运行智能体。这不仅仅是技术升级,更是其系统理解、推理和处理金融数据方式的根本转变。

关于 Amazon Bedrock 和 Bedrock AgentCore

Amazon Bedrock 是一项完全托管服务,通过单一 API 提供来自领先 AI 公司的高性能基础模型供选择,并提供广泛能力,以安全、隐私和负责任 AI 的方式构建生成式 AI 应用。 了解有关 Amazon Bedrock 的更多信息.

Amazon Bedrock AgentCore 是用于大规模构建、连接和优化 AI 智能体的平台。可使用任何开源框架和任何模型进行构建。通过内置的身份验证和访问控制将智能体连接到您的工具和数据。通过跟踪和评估在生产环境中监控并改进智能体。AgentCore 负责处理基础设施,让您专注于智能体逻辑而非后端管道,并在不放弃开源灵活性的前提下获得企业级安全性和可靠性。

了解更多信息,请访问 Amazon Bedrock AgentCore 产品页面。

为什么选择 Amazon Bedrock?

有几个因素使 Amazon Bedrock 成为 Duco 受监管金融服务行业(FSI)环境的理想选择:

  • 安全与合规优先: 借助 Amazon Bedrock,客户数据保留在 AWS 环境中,且不会被用于训练模型。通过其虚拟私有云(VPC)中的私有端点,Duco 可以连接内部系统,同时保持它们完全隔离,这对敏感金融数据处理至关重要。
  • 模型灵活性: 通过单一 API 访问来自 Amazon Nova 2 系列、Anthropic、OpenAI、Cohere、Meta 和 Mistral AI 的领先基础模型,意味着 Duco 可以为每项任务选择合适的模型。Duco 可以通过更改配置参数在模型之间切换。
  • 专为金融服务打造: Amazon Bedrock 提供金融服务所需的强大治理控制和合规框架,在避免基础设施复杂性的同时保持一级银行所要求的安全标准。

选择 AgentCore 作为运行时

Duco 现有的智能体基础设施构建在 LangChain 和 LangGraph 之上,两者均已投入生产使用。在评估其智能体工作负载的运行时选项时,AgentCore 因三个关键原因成为明确选择:

  • 与现有原语兼容: AgentCore 与 Duco 现有的 LangChain 和 LangGraph 代码完全兼容,因此大多数现有代码无需修改即可继续运行。
  • 托管运行时: AgentCore 提供完全托管的运行时,无需 Duco 自行运行智能体基础设施,从而减轻了工程团队的运维负担。
  • 适合受监管环境: AgentCore 满足在受监管金融服务环境中部署的严格要求,并内置安全与合规控制。

多租户架构:设计即隔离

Duco 的平台作为多租户软件即服务(SaaS)产品运营,具有严格的租户隔离(图 1)。这对受监管机构而言是不可协商的要求。该架构在每一层都体现了这一点,从底层云基础设施一直到 AI 智能体运行时。

Duco multi-tenant architecture with per-tenant isolation across the infrastructure, security, and agent layers

图 1:多租户架构

基础设施层

  • Amazon Elastic Kubernetes Service(Amazon EKS)集群 采用每租户一个命名空间的隔离和网络隔离,有助于在 Kubernetes 层保持工作负载分离。
  • 每租户专用 AWS 服务: 每个租户都获得专用的 Amazon Aurora MySQL 数据库、Amazon Simple Storage Service(Amazon S3)存储桶、AWS Key Management Service(AWS KMS)加密密钥、Amazon Simple Email Service(Amazon SES)和 Amazon Simple Queue Service(Amazon SQS)消息栈、Amazon ElastiCache 层以及 Amazon Cognito 用户池。客户之间零共享数据基础设施。
  • 每租户自动扩缩容 有助于最大限度减少某一客户的计算密集型工作负载对其他租户性能的影响。

安全与访问控制

隔离通过身份和基础设施双重手段强制执行,用户与其数据之间的每一跳都经过身份验证(图 2):

  • 租户范围的身份验证: 每个请求都携带由该租户专用 Cognito 用户池签发的 JSON Web Token(JWT),在智能体逻辑运行之前,由 Amazon Bedrock AgentCore 的一项能力——AgentCore 运行时的入站授权器进行验证。
  • 网关中介的工具访问: 智能体只能通过该租户专用的 AgentCore Gateway(Amazon Bedrock AgentCore 的一项能力)访问工具,该网关将调用转发至运行在 Amazon EKS 中、基于容器的模型上下文协议(MCP)服务。
  • 端到端用户身份: 用户身份会传递至下游服务,每个 MCP 服务器都会依据该租户的 Cognito 用户池同时验证智能体和用户的身份,因此每次工具调用都以调用用户的身份获得授权,并由受信任的智能体发起。
  • 私有网络: 各租户共享一个 VPC 和 Amazon EKS 集群,通过命名空间和网络策略进行隔离,私有端点使发往 Amazon Bedrock 和 AgentCore 的流量保持在 AWS 网络内。每个租户的 AgentCore 运行时以 VPC 网络模式运行,网络接口位于私有子网中,因此其出站流量进入 VPC 并受安全组管控。

智能体层

隔离原则完全延伸到智能体架构中:

  • 每租户一个 AgentCore 运行时和网关: 每个租户都由专用的运行时和网关提供服务,并针对该租户自己的 Cognito 用户池和 Amazon EKS 命名空间进行配置。结合 AgentCore 内置的会话隔离,这意味着客户之间不存在共享的内存、上下文或工具。每家银行独有的模式、命名约定和机构知识都与其他租户完全隔离。
  • 每租户 MCP 服务器: 每个租户都有自己的一组 MCP 服务器,提供特定于服务的能力,并在启动时动态发现。

该架构有助于维持这样一种模式:每个智能体只能访问一家银行的数据、上下文和推理,从而促进银行间上下文的真正隔离。

High-level architecture showing requests flowing through a per-tenant AgentCore runtime and Gateway to MCP services in Amazon EKS

图 2:高层架构

多模型策略

Duco 并不局限于单一基础模型,而是为每项工作选用合适的模型,将其智能体设计中的每个角色分配给最适合的模型。这种方法通过将合适的模型能力匹配到每个特定工作负载,同时实现质量和成本效率:

模型 主要角色 使用场景

Anthropic Claude Opus

规划智能体 用于复杂推理和理解,为其他智能体制定前期执行计划
Anthropic Claude Sonnet 主要推理与复杂决策 异常调查、对账逻辑、规则解释
Anthropic Claude Haiku 轻量级工具路由决策 快速路由选择、低延迟分类、经济高效的首轮分诊
Amazon Nova 2 Pro 工具输出摘要 压缩 MCP 工具响应,为分析师生成可读摘要

这种多模型方法在架构上设计为允许在不中断技术栈的情况下更换模型,这在模型能力快速演进的格局中至关重要。

解决上下文膨胀:MCP 技能架构

Duco 最重要的技术创新之一,解决了任何构建生产级智能体系统的人都熟悉的一个挑战:上下文窗口管理。

问题

通过 AgentCore Gateway(它为每个底层 Duco 服务前置一个独立的 MCP 服务器)向每个租户暴露 300–400 个工具,在工作开始之前,约有 200,000 个 token 的工具描述被加载到上下文中。这导致了 上下文过载: 随着对话变长,响应质量下降,模型也失去了先前推理的线索。团队强调,仅凭感觉智能体能力下降并不足以作为证据。在做出工程决策之前,必须运行评估。

解决方案:按需加载技能

Duco 利用 MCP 资源类型创建了一种技能架构,将工具描述移出静态上下文,仅在需要时加载:

  • skill:// resources ——按需加载的工具描述,仅在需要某项技能时加载。
  • system:// resources ——在运行时组合的动态系统提示部分,使基础系统提示保持精简。
  • ui:// resources ——UI 专用资源,与操作工具隔离。

在 Duco 的智能体框架中实现的三个新元工具,取代了臃肿的工具描述负载:

  • load_skill ——仅在智能体判断需要某项技能时,按需获取技能描述。
  • find_tool ——定位相关工具,而无需将所有模式加载到上下文中。
  • invoke_tool ——在确定所选工具后执行该工具。
On-demand MCP skills loading where meta-tools fetch skill and tool descriptions instead of preloading all tool schemas into context

图 3:上下文加载与 MCP 连接

结果

  • 上下文减少 90%: 通过将工具描述移出静态上下文并限制工具响应的大小,主上下文从 200,000 个 token 减少到约 20,000 个 token。
  • 提示缓存得以保留: 静态提示前缀(系统提示加三个元工具)保持小而稳定,技能加载到对话中而非工具列表中,因此加载技能不会使缓存失效。
  • 智能体响应质量显著提升: 已通过严格的评估框架验证。
  • 无需任何基础设施变更: 相同的底层模型、相同的工具、相同的任务,却取得了可衡量的更好结果。

MCP 工具发现:部署一个服务,获得一项能力

一项关键的架构决策是在启动时实现 MCP 工具发现。当部署新服务时,其 MCP 服务器会作为部署的一部分注册为租户 AgentCore Gateway 上的目标。当智能体启动时,harness 会构建一个包含 Gateway 所暴露的每个工具的注册表,并且只共享工具名称。随后,智能体使用 find_tool 和 invoke_tool 来发现详细信息并按需调用工具。因此,智能体会自动获得该能力,无需重新部署或重新配置智能体。访问控制由底层服务自身强制执行:由于用户身份会通过 Gateway 传递,因此只有当该用户被允许执行相应操作时,每次工具调用才会成功。

这提供了运营敏捷性:平台团队可以通过部署新的微服务向智能体交付新能力,而无需改动智能体配置,也无需停机。对于一个服务 200+ 客户、且这些客户的运营需求多样且不断演变的平台而言,这种动态能力模型是一项显著的竞争优势。

大规模部署智能体

Duco 实施了 Amazon Bedrock 和 Bedrock AgentCore,以支持两个此前需要大量人工投入的关键工作流:

1. 智能接入

此前,接入新的对账流程是一项手动、耗时的工作,需要投入大量专业服务资源。银行迁移数千个流程需要数年时间,速度约为每周一个。

借助 Amazon Bedrock 和 Bedrock AgentCore,Duco 现在可以:

  • 自动理解跨遗留系统和现代系统的各种文件格式和数据结构。
  • 将遗留系统中的旧配置转换为结构化的 Duco 流程。
  • 解析数十年前编写、如今无人完全理解的复杂电子表格宏。
  • 以比以往快 10 倍的速度部署新的对账流程。

一家全球性银行的新对账流程接入成本下降了 70%,并通过更优的匹配率和分配规则,使直通处理率提升了 20% 以上。

2. AI 驱动的异常调查

金融机构在系统之间运行着数千个质量检查关口,每天产生无数异常。传统上,大批分析师会逐一人工调查每个差异,以判断它是否值得关注、是否已在调查中,或是否代表一种新的风险。

Duco 的智能体现已承担调查的“第一英里”工作:

  • 分诊 按异常到达的顺序对新增差异进行分组,将可能具有相同根因的相关异常归为一类。
  • 检查上下文,例如某个差异是否已知、是否已在处理中,或是否属于预计会自行消除的时间差异。
  • 调查 :从源数据和系统中收集证据,以追溯每个不一致的根因,判断其属于数据质量问题、记录缺失或延迟、映射或参考数据问题,还是真正的数据不匹配,并解释其发生原因。
  • 建议 :给出可供决策的方案,包括可能的原因、拟议的解决方案(如调整、规则变更或升级)、考虑过的替代方案以及支持性证据。
  • 分派 将每个案例分派给相应的分析师,由分析师审查证据并做出最终决定,所有决定都记录在审计追踪中。

这种智能体方法之所以表现出色,是因为财务工作流涉及高度可变的信息路径,而这正是基础模型所擅长的复杂、上下文密集型推理。

在受监管环境中运营

在金融服务中部署 AI 智能体需要的不仅仅是技术能力。它要求严格的合规性、可审计性和风险管理。Duco 在 Amazon Bedrock 上的实现通过四项核心原则满足这些要求:

  • 全面的可观测性: 每个智能体的决策都记录在完整的审计追踪中。审查人员可以追溯每一项决策,以对照监管要求进行检查。
  • 人工介入控制: 高风险操作需要明确授权,并为超出智能体置信度阈值的复杂场景提供清晰的升级路径。
  • 故障安全架构: 系统默认优先保护客户而非运营效率,即使在智能体遇到边缘情况或意外数据时也能保障安全。
  • 监管合规: 该平台支持受 SOC 2 和 DORA 要求约束的工作负载,并可按机构进行数据驻留控制。

重要的成果

Duco 采用 Amazon Bedrock 已在客户部署中带来了可衡量、可审计的业务影响:

10×

更快的对账部署

70%

降低客户接入成本

20%+

直通式处理提升

数千

节省的人工调查时间

或许最重要的是,Duco 现在拥有了快速创新的基础。构建新的智能体能力不再需要大量的机器学习工程,因此团队可以专注于解决业务问题,而不是管理基础设施。

路线图:人机协作的未来

Duco 的架构设计并非要取代员工,而是要提升他们。该平台设想随着智能体能力的成熟,人类角色将呈现清晰的演进:

任务执行者 → 调查员 → 决策者

未来不再由人类执行重复性任务,而是由运营团队并行编排多个智能体,人类则基于智能体准备的分析做出最终审批决策。该架构旨在支持智能体之间的通信,包括不同金融机构的智能体可以协调的跨机构场景。

结论

对于受监管的金融机构而言,Duco 的架构表明,智能体 AI 不仅可行,而且已经在生产规模上交付成果。Duco 在 Amazon Bedrock 和 Amazon Bedrock AgentCore 上重建了其智能体 AI 技术栈,结合了严格的按租户隔离、为每项任务选用合适的模型,以及将上下文开销降低 90% 的 MCP 技能架构。成果包括对账部署速度提升 10 倍,并且对一家全球性银行而言,客户接入成本降低 70%,直通式处理提升超过 20%。要构建类似的多租户设置,请先阅读 Amazon Bedrock AgentCore 开发人员指南,然后阅读 AWS 机器学习博客上的 使用 Amazon Bedrock AgentCore 构建多租户智能体 。关于这项工作背后的运营模式,请参阅 Duco 的 智能体运营:交易后处理的新运营模式.


关于作者