企业 AI 需要累积业务上下文才能获得自主权

想象一下，现在是周一早上，距离季度预测会议还有几个小时。一位财务负责人问 AI 智能体：“毛利率为什么下降？哪些假设需要调整？公司接下来应该怎么做？”几秒钟内，这个智能体就从多个系统中提取信息，识别出几个驱动因素，并建议削减可自由支配支出或重新审视招聘计划。答案清晰、详细，而且看似合理。从表面上看，这个答案没有任何明显错误。

正因如此，它才如此危险。

揭开表象，就会发现若干缺失的细节。这个智能体使用了错误版本的预测。它漏掉了上一季度一项已获批准的会计调整。它没有考虑到某个地区遵循不同的业务规则。底层数据本身未必有错；问题在于，这个智能体根本不知道组织如何解读这些数据，也不知道各部分如何相互衔接。问题不在于模型本身，不是换个模型就能轻易解决。真正的问题在于，这个模型不了解这项业务。

企业 AI 开发的大部分精力都集中在模型能力和智能体自主性上。但是，除非模型理解组织如何定义其数字，并将这些数字与业务运营方式联系起来，否则它无法得出可靠的、针对具体公司的结论。

缺失的那一层是累积业务上下文，也就是对企业数据含义的可治理理解：包括其定义、关系、假设、计算、工作流、例外情况，以及随着时间推移围绕这些数据不断积累的决策。

这种上下文通过规划、预测、情景建模、差异分析、纠正、反馈、关账活动和已批准的决策逐步形成。缺少这种上下文，组织就可能在不给 AI 足够业务理解、使其可靠承担职责的情况下，把更多责任交给 AI。

根据斯坦福大学《2026 年 AI 指数》，88% 的受访组织在 2025 年使用了 AI，但在几乎所有业务职能中，智能体部署仍停留在个位数比例。

这些统计数据表明，企业已经能够获得 AI 能力，但许多企业尚未准备好让 AI 执行会产生重大后果的工作。领导者知道他们需要借助 AI 来构建，但他们仍需确定自己是否在问题的正确层面上进行构建。

基础模型在模式识别、综合归纳、自然语言交互和探索大型数据集方面很有效。尽管这些都是有意义的进步，但模型本身正变得越来越不具备差异化优势。

企业面临的更棘手问题是，教会 AI 理解公司信息的含义，更重要的是理解这些信息如何用于决策和分析。

围绕 AI 治理的许多讨论都聚焦于干净数据。尽管这是必要的一步，但在为广泛的企业采用而扩展 AI 时，这还不够。两个干净的数据集仍可能使用不同的定义、时间期间和业务规则。

IBM 的《2025 年 CEO 研究》发现，25% 的 AI 计划实现了预期 ROI，只有 16% 实现了企业级扩展。这一模式与更大的实施挑战相一致：获得模型和数据并不能确保 AI 系统能够协调决定信息应如何使用的组织规则。

能力更强的模型很容易采购。公司特有的理解则必须自行构建。

在企业 AI 中，许多被描述为上下文的内容，仍然是在请求发生的那一刻通过检索提供的。系统会找到相关的文档、记录或数据点，用它来生成答案，并在下次被询问时重新开始。

检索很有价值，但单独使用时并不能形成累积的组织记忆。它向前传递的内容很少，这意味着 AI 在每一次新的交互中都可能像一个陌生人一样面对这家企业。

这类似于每天早上让一位才华横溢的新分析师入职。这位分析师懂财务，也知道如何查询数据集，但他们仍然需要了解这家公司如何定义自己的指标、哪个预测是权威的、某项例外为何获批，以及哪些假设反复被证明是错误的。

累积上下文的作用则不同。它不会随着每次提示或规划周期而重置，而是会随时间不断累积。每一次调查、情景推演、纠正、审批和决策，都可以为对企业如何运作形成一种可治理的理解做出贡献。这意味着后续周期可以建立在先前周期所确立的内容之上，而不是在每次提示时都重新发现相同的关系、逻辑和工作方式。

这并不意味着要无限期地保留一切。有用的企业上下文必须有意识地界定范围、可纠正、具备权限感知能力，并且可追溯到其来源。组织需要保留重要的内容，同时确保过时的假设、临时例外和错误的解释能够随时间被识别和更改。

信任在模型之下运作

模型是 AI 系统中最显眼的部分，但它很少是决定企业能否信任结果的那一部分。

一个能力强的模型可以调查差异、探索可能的解释并建议行动。企业能否依赖这一建议，取决于围绕该模型的架构。

Gartner 发现，在报告 AI 计划成功的组织中，其在数据质量、治理、AI 就绪人才和变革管理等基础方面的投入占收入的比例，最高可达成果不佳组织的四倍。

受治理的上下文层是这一基础的一部分，位于源系统、模型和业务行动之间。

这也正是智能与确定性必须分道扬镳之处。AI 可以调查、起草和建议。一旦某项行动经过审查和批准，执行就应通过受治理的计算、权限检查、回写控制和审计追踪来完成。让模型适用于探索的灵活性，在向业务提交变更时并不总是合适。

模型可以建议应该发生什么。包括人工审批和系统控制在内的周边架构，决定允许发生什么。

让智能体有用的约束

智能体的部署速度超过了围绕它的控制措施。毕马威发现，至少部署了部分 AI 智能体的组织占比从 2025 年第一季度的 11% 上升至第三季度的 42%。然而 Gartner 报告称，只有 13% 的组织强烈认同自己已具备合适的智能体治理结构。

这一差距之所以重要，是因为能力与权限是彼此独立的设计决策。一个系统可能在技术上能够访问数据库、修改预测或触发工作流。这并不意味着它应被允许独立完成这些事。

组织在将有意义的工作委托给智能体之前，应当先落实三项约束。

建立共享含义

定义、指标、层级结构、财年日历和计算规则必须在智能体能够一致地据此推理之前完成统一。

不应指望 AI 去默默解决组织自身尚未处理的歧义。缺乏共享含义时，它可能把相互冲突的定义视为可以互换，从而给出一个逻辑自洽但在运营上错误的答案。

确定哪些内容得以延续

组织必须界定哪些更正、审批、决策和结果会成为可复用的上下文。它们还需要制定关于保留、访问和更正的政策。

有用的记忆是经过筛选和治理的，而不是不加区分地累积。否则，一个过时的假设或一次性的例外，就可能悄然改变未来的建议。

将建议与承诺分开

分析、建议、拟议变更、经人工批准的执行以及有边界的自主执行，代表着不同层级的权限。智能体应当拥有与每个层级相称的身份和权限。

评估还必须覆盖完整的行动链条：检索了哪些信息、使用了哪些上下文、调用了哪些工具、发生了什么变更，以及该变更是否可逆。

只测试最终答案，会漏掉智能体工作流可能失败的大多数方式。

能力描述的是智能体能做什么，治理则界定它被允许做什么。

自主性需要的不仅是能力

在开篇的利润场景中，速度只有在系统同时知道哪份预测具有权威性、哪项例外已获批准、它可以采取什么行动以及谁仍承担责任时，才是有用的。

我相信，企业 AI 只有承载正确的上下文，并能展示它如何得出具有重大影响的结果，才能赢得信任。

组织应当在扩大智能体自主权之前，先构建这一上下文与控制层。工作方式会发生变化，但问责制不会改变。

Hugh Cumming，Vena Solutions 首席技术官

Hugh Cumming 是 Vena 的首席技术官，是一位资深的产品与技术高管，拥有 20 多年经验，曾在 Manulife Canada、Finastra、SecureKey Technologies 和 ADP Canada 等公司领导产品工程、用户体验和云团队。他曾主导多项重大数字化转型计划，并在 Finastra 推出了业界首个基于云的 API 开发者平台，用于银行与金融科技协作。在 Vena，他负责聚焦规模与增长的技术战略。

了解更多

mvp-article-cont