- 将智能体与确定性控制及人工问责相结合的四种生产架构模式。
- 一种用于确定智能体可在何处进行推理、生成、提出建议或采取行动的决策框架。
- 为什么让企业智能体具备可部署性的,是受治理的数据、数据血缘、强制执行、评估和审计证据,而非仅靠模型。
企业 AI 无法取代所有确定性控制。这四种模式有助于架构师确定智能体可在何处推理和行动,同时仍受控制机制或人工权限约束。
企业 AI 背后的架构问题
企业正将智能体加入基于固定规则和可重复流程构建的系统中。智能体能够推理复杂问题,但企业系统——尤其是受监管行业的系统——必须保持可控且可审计。问题不在于二选一,而在于如何让二者协同工作。
我们撰写这个系列,是因为客户反复向我们提出同样的问题:世界各地的企业如何应对与我们类似的约束?企业采用 AI 的实际情况如何?其他组织如何处理这些细微问题?当需求模糊、复杂且高度因机构而异时,Databricks 如何帮助解决这些问题?
作为前线部署工程师,我们的工作正处于这一交界处。我们将模糊的业务问题转化为可投入生产的系统。尽管具体实施会因机构而异,而且我们无法披露具体实施细节,但可以讨论通用的模式和实践。随着智能体成为大型企业系统的一部分,有两个问题不断出现:
- 哪些地方必须保持确定性(例如,当行动不可逆,或错误会带来不对称风险时)?
- 哪些地方可以赋予智能体权限,尤其是在行动可逆或补救成本较低的情况下?
不同用例的答案并不相同。在我们一线构建和现代化改造的各类系统中,四种模式正在浮现。本文作为系列首篇,将介绍这一框架。接下来的四篇文章将展示每种模式在实践中如何运作。
模式 1:确定性控制与智能体推理
当结果必须具有严格的确定性和可复现性,或错误不可逆且补救成本高昂时,请采用这种模式。在这里, “确定性” 意味着可以依据一份明确且经过版本管理的契约复现结果,该契约同时记录数据、规则、容差、配置和执行上下文。
金融机构有大量控制机制,对账就是一个很好的例子。控制机制必须计算余额、应用获批规则,并生成可复现的 PASS 或 FAIL 结果。智能体不能重新解释容差,也不能将自己的解释变成通过控制的依据。当对账失败时,智能体可以收集证据、检查数据血缘和批次状态、将差异与以往事件进行比较、检验一组有限的可能原因,并建议下一步行动。是否通过对账仍由确定性控制决定,智能体则帮助解释失败原因。
智能体可以调查该控制机制。 但不能取代该控制机制本身。
这种模式也适用于监管计算、政策执行、数据质量关卡和系统完整性检查——即任何要求结果精确、可复现且可审计的场景。
模式 2:智能体执行与确定性裁判
当多个答案都可能有效,但结果可以进行客观检验时,请采用这种模式。
遗留系统迁移或现代化改造就是一个很好的例子。智能体可以分析现有工作负载并生成目标实现方案。它每次生成的实现可能不完全相同,但这未必是问题。重要的是结果是否正确。
确定性裁判可以检验代码能否编译、架构是否符合要求、数据能否对账、控制总数是否匹配、治理要求是否得到满足,以及性能是否达到目标。如果结果未通过,智能体会接收相关证据、诊断问题、修正其工作,然后再次进行验证。
通过这一裁判的检验,可以证明候选方案满足了获批的验收契约,但不能证明该契约涵盖了生产环境中的所有行为。测试覆盖率、贴近生产环境的边界情况以及定期审查仍然至关重要。
不要强求智能体本身具有确定性;如果可以,就以确定性方式 评估其输出.
验证器不仅是一项控制机制,也是让智能体能够改进结果的反馈回路。这种模式非常适合迁移、代码生成、转换、测试和修复。
模式 3:智能体推理与人工权限
当答案需要判断,且无法通过确定性测试证明其正确性时,请采用这种模式。
金融犯罪调查就是一个例子。智能体可以关联交易、文件、政策、关系和历史模式;它可以汇集证据、找出可能的解释、提出尚未解决的问题,并建议处置方式。当某项决定会对个人产生重大影响,或必须向监管机构、审计人员、法院或受影响者说明结果时,法规通常也会提出这样的要求。
但建议并不等同于决定。当结果影响重大,且不存在以确定性方式确认其正确性的途径时,权限必须保留在负有责任的人员手中。
人工审查应设置在决策边界上, 而不是嵌入每一个步骤中.
智能体的推理通常还必须具有可解释性。每项建议都应能够追溯到其背后的证据、来源和工具。这样,调查人员便可以质疑其中的逻辑,审计人员或监管机构也可以还原智能体得出建议的过程。如果法规赋予受影响者获得解释的权利,解释必须针对具体决定,涵盖主要因素、智能体的作用以及人工的作用。仅仅说“模型将其标记出来了”是不够的。调查人员应记录最终决定的理由,包括任何推翻智能体建议的情况。
智能体可以减少调查工作量,并提高所呈现证据的一致性。调查人员仍对最终决定负责,而这一决定 可能带有主观性、涉及细微判断,并非确定性的。
模式 4:在限定范围内自主执行
当智能体需要采取行动,但只能在明确的运行边界内行动时,请采用这种模式。
以一个管理企业受治理数据访问权限的治理智能模块为例。用户说明自己需要什么数据、为何需要以及需要多长时间。智能体解释请求、识别适当的数据产品、确定所需的最低访问权限,并收集相关的身份、政策、所有权、分类、血缘和使用情况信息。
要求每项标准请求都经过人工批准会造成延迟,却未必能降低风险。赋予智能体不受限制的访问授权权力,则会造成不可接受的控制缺口。解决方案是受限自主。
运行边界规定:
- 哪些数据产品和访问级别符合直通式处理条件;
- 必须满足哪些关于身份、用途、地理位置、法律实体、数据驻留和职责分离的规则;
- 可授予访问权限的最长期限和最低级别;
- 智能体可以发起哪些获批的 Unity Catalog 操作;
- 哪些敏感、模糊或异常请求需要人工批准;以及
- 如何监控、终止、撤销和记录访问权限以供审计。
在这一边界内,智能体可以解释请求、汇集证据、选择获批的工作流,并发起有时限的授权。在 Unity Catalog 执行授权之前,确定性政策服务会验证每项必要条件。
不要试图约束每一个决定。 应约束运行边界。 在这一边界内,跨验证周期实施多智能体裁判框架,还可以通过自动化、多视角的安全检查来补充人工监督。
如果请求超出这一边界——例如涉及敏感数据、属性缺失、政策冲突、权限过高或职责分离例外——系统会阻止直通式执行,并将请求转交给适当的数据所有者、数据管理员或风险审查人员。
现有系统如何为智能体架构提供支撑
Databricks 平台能力
Databricks 为这四种模式提供了受治理的基础。Omnigent 可以组合智能体和智能体运行框架,而不让任何单一智能体成为架构本身。Unity Gateway 管理对模型、工具、MCP 服务器和外部 API 的访问。Unity Catalog 治理企业数据,并执行获批的访问规则,包括数据驻留和跨境传输规则。安全连接能够访问本地、云端和 SaaS 系统,而不会绕过这些控制点。MLflow 保存追踪记录和评估证据,这些资料也可作为面向监管机构的审计记录。所附示意图提供了一个参考架构,展示智能体调用如何通过受治理的控制点,流向本地、云端及受监管司法辖区内的客户系统。

传统现代化改造改变的是技术在何处以及如何运行。AI 转型改变的则是执行模式本身。过去主要遵循预定义指令的系统,如今可以进行解释、推理、生成和行动。
这并不意味着要抛弃企业历经数十年构建的确定性系统。在许多情况下,这些系统会成为智能体架构的基础:
- 政策引擎成为控制平面。
- 验证框架成为确定性裁判。
- 验收标准成为智能体评估指标。
- 运行限制成为自主权限边界。
- 受治理的数据、数据血缘和审计轨迹提供智能体所需的上下文和证据。
机遇并不只是用智能体取代遗留系统。贯穿全部四种模式,使智能体能够部署的关键在于其立足的基础:受治理的企业数据、可验证的数据血缘、强制执行的访问控制、可衡量的质量,以及可复现的审计轨迹。
这在受监管行业中尤为重要,因为薄弱的架构边界可能导致控制失效、处罚或监管承诺延期。精心设计的边界可以减少调查工作量、缩短现代化改造周期,并在不向模型转移不当权限的前提下实现高价值自动化。
AI 原生架构的核心,是决定确定性、智能和权限应分别置于何处。
先选择模式,再选择智能体
在设计智能体解决方案之前,请先提出三个问题:
- 允许智能体对什么进行推理?
- 可以允许智能体做什么?
- 哪些事项必须保留在智能体的权限之外?
这些问题的答案决定了解决方案需要的是确定性控制、确定性裁判、人工决策边界,还是明确的运行边界。模型的选择应在这项架构决策之后,而不是之前。
这些模式并非相互排斥。生产系统可能针对一项决定采用确定性控制,针对异常情况保留人工权限,并针对获批的补救措施采用受限自主。关键是明确界定每一条边界。
随着系统在生产环境中逐渐成熟,这些边界可以相应调整:确定性裁判可利用累积的使用数据完善评估规则,而随着反馈逐步建立起对智能体推理的信心,人工权限边界也可以随之调整。
继续阅读本系列
接下来的四篇文章将逐一介绍每种模式如何从架构走向实现:
第 2 部分:确定性控制与智能体推理
智能体如何在不削弱执行力度或可审计性的前提下,调查确定性财务控制中的异常情况。
第 3 部分:智能体执行与确定性裁判
智能体如何生成和修正实现方案,同时由确定性验证来判定结果是否可接受。
第 4 部分:智能体推理与人工权限
Lakewatch 如何将监控信号、银行数据和专业网络情报整合成可供审查的证据包,同时由负有责任的调查人员保留作出重大决定的权限。
第 5 部分:受限自主的智能体执行
一份设计蓝图,展示智能体如何在政策定义的运行范围内协调受治理的数据访问,并结合确定性授权、Unity Catalog 强制执行机制,以及由人工处理重大异常。
请使用四模式框架对您的用例进行分类,然后继续阅读符合系统所需边界的实现文章。对于跨越多种模式的受监管用例,请联系您的 Databricks 客户团队或 FDE 项目负责人,在选择智能体架构之前明确控制、推理和权限边界。
关于作者
Molly Nagamuthu 是 Databricks 的首席前线部署工程师。她与企业合作推进复杂的数据和 AI 转型计划,尤其专注于全球性银行,因为这些机构的现代化改造必须与治理、控制和严谨运营并行不悖。
在本系列中,Molly 与其他前线部署工程师分享来自一线实践的实现模式,这些模式正随着企业从确定性架构迈向 AI 原生系统而逐渐形成。
将最新文章发送到您的收件箱
订阅我们的博客,即可在收件箱中收到最新文章。
AI 热点