人工智能
让 AI 走出演示,走向全球企业AWS Forward Deployed Engineering 现已在 15 个国家上线,包括美国、墨西哥、巴西、加拿大、澳大利亚、新加坡、印度、韩国、日本、英国、德国、荷兰、法国、瑞典和沙特阿拉伯,面向商业和公共部门客户提供服务;并由数十个内置的生产就绪加速器提供支持。
我接触过的每一家企业都已经用 AI 做出了能用的东西。一个能读取理赔申请的原型。一个能解决信用卡争议的智能体。一个能在几秒内回答客户问题的模型。
原型能跑通。演示能让利益相关方印象深刻。然后组织试图把它投入生产,真正的问题就开始了。生产数据比测试集更杂乱。审计人员想知道智能体为什么做出每一个决定。业务量从试点小组扩大到整个公司。最重要的规则原来只存在于人们的脑子里。
这些都不是模型问题。它们是业务问题,而它们决定了 AI 究竟能否带来回报。从演示到生产的这段距离就是最后一公里,大多数 AI 都卡在这里。这也正是我们的团队投入时间的地方。
我们在 6 月推出 AWS Forward Deployed Engineering(FDE),就是为了弥合这一差距。自那以后,我们与金融服务、医疗健康、体育、媒体、零售等领域的商业和公共部门客户一起解决了这些问题。以下是我们学到的东西,以及它如何塑造了我们所构建的产品。
问题有三个层面
模型提供商、云提供商和咨询公司都在把工程师派驻到客户那里。在 AWS FDE,我们衡量成功的标准是我们的工程师离开后留下了什么:一个你的团队拥有的基础、持续学习的工作流,以及你可以信任的治理。
在各类客户中,最难的问题都出现在三个层面:基础、工作流和治理。每一层都比看起来更难,而且每一层都建立在前一层之上。无论你是从零开始还是基于现有系统构建,这一点都成立。在全新构建中,你可以快速推进,但还没有可依托的基础。在既有系统上,智能体必须在数十年积累的数据、规则和集成环境中工作。
第一层:可累积的基础
在智能体能够大规模开展有用工作之前,它需要一个基础:身份、安全、上下文、治理和运营控制。这个基础必须从第一天起就达到生产就绪,并由后续每一个用例共享。上下文往往是最 大的缺口。大多数客户的数据分散在各个系统中,没有共同的本体,也就是智能体进行推理所需的、关于业务如何运作的共享模型。
没有共享的基础,第二个试点的成本几乎和第一个一样高。集成会被重建,经验教训无法延续。大多数组织都会走到一个节点,停下来先构建基础,这样每个新用例都从上一个用例的成果出发,而不是从零开始。我们称之为 AI 重置。
三星人寿保险有四个关联公司,各自从零开始构建自己的 AI 点状解决方案。在 45 天内,FDE 团队构建了一个受治理的智能体平台,拥有单一控制平面并内置合规能力。现在,新智能体通过注册和策略分配即可部署,而无需重建。
第二层:自动化工作流
接下来是工作本身:高业务量、规则密集的流程,例如理赔处理、了解你的客户(KYC)审查、信用卡争议、贷款发放、发票对账、许可审批和客户服务。这正是 AI 能够带来即时且可衡量成果的地方。回报来得快,但驱动这些流程的知识很少存在于系统中。它存在于从事这些工作的人那里。
困难的部分不是自动化本身。而是挖掘每个决策背后的业务规则。当发票和采购订单不一致时,以哪条记录为准?例外情况何时可以自行清除,何时需要人工介入?经验丰富的员工凭判断回答这些问题,而这种判断很少被写下来。
有时知识就埋在系统本身之中。
力拓铁矿石业务在一个已有 30 年历史的 Oracle 系统上运行着世界上最复杂的从矿山到装船的供应链之一。该系统有 5,000 多张数据库表和 140 个应用。梳理它曾是一项耗时数月的工程。FDE 团队构建的智能体在数周内完成了梳理,揭示出力拓团队可以验证并据以构建的依赖关系。
梳理现有系统只是开始。最大的机会出现在组织不再问 AI 如何让现有工作更高效,而是开始问它如何改变工作的完成方式之时。
第三层:在一切变化中依然成立的治理
治理不是项目的一个阶段。它是架构的一部分。随着智能体数量增加,安全风险、成本和你必须解释的决策也随之增加。每个智能体都需要自己的身份、权限和审计轨迹,与人类身份分开。而且由于底层模型是概率性的,智能体需要监控,使其结果在发布很久之后仍可预测、可审计。
系统还必须在其周围一切都在变化时持续运作。模型会漂移,业务规则会变化,数据格式会改变,监管会收紧。新的安全问题会出现,代码会过时。随着更新的模型到来,围绕它们的指令和工具也会改变。你需要评估和护栏,让智能体在必须可预测的地方保持可预测,在可以发挥创造力的地方保持创造力。
当治理放在最后时,它就成了阻止上线的关卡。当它从第一天起就内置其中时,它就是让你的业务快速前进的保障。
Marsh 是一家领先的全球专业服务公司,它需要能够经受自身审计标准检验的智能体。FDE 团队从一开始就将这些控制措施内置其中,首个用例在工作启动约两个月后进入生产。目标领域的效率提升最高达 70%,部分流程步骤从数小时缩短至数秒。此后,Marsh 扩大了合作范围,并持续自行扩展该系统。
我们如何解决:速度、规模与控制
我们的观点来自我们自身构建和运行这些系统的经验。AWS FDE 将一支由 AWS 工程师、科学家和产品经理组成的小型团队,与您的工程师以及一组专业化 AI 智能体配对协作。我们的许多 FDE 来自构建 Amazon Bedrock、Amazon Bedrock AgentCore、Kiro、AWS Quick 和 AWS Security Hub 的服务团队。他们曾在 AWS 规模上构建和运行 AI 产品,并将这些工程实践带入您的环境。我们的团队携手合作,在您自己的 AWS 账户中,以 45 天为一个冲刺周期,将高价值业务问题推进到生产环境。客户不应需要在速度、规模和控制之间做取舍。FDE 的构建目标就是同时实现这三者。
速度—— 您可能带着一个宽泛的目标或一个模糊的问题来找我们。我们与您的业务利益相关者一起将其细化,然后从第一天起就在您的环境中、基于您的数据、通过您的身份和安全控制进行构建。我们与实际从事这项工作的人员一起,以短周期进行构建。每个周期都会将真实案例呈现在他们面前,随着他们的反馈,那些不成文的规则便会浮现出来。我们将这些规则记录在一个持续演进的上下文中,因此即使在我们退出之后,系统仍能持续学习。从原型到生产之间无需重建任何东西。您全程都能看到可运行的演示,评估会对照您关心的结果跟踪进展,并且您能在一个季度或更短时间内拥有一个生产系统。
规模—— 单点解决方案可以在一个用例上快速推进,但不会为接下来的五个用例留下任何基础。每个 FDE 团队都以相同的方式工作,采用 AI 驱动开发生命周期(AI-DLC),这是我们自己的服务团队用来将宽泛问题转化为可运行成果的方法。我们部署一套有明确主张的 AWS 技术栈,它反映了我们在构建 AI 服务中学到的经验,并适配您的环境:一个描述您业务运作方式的持续演进上下文、一个供您的工程师和智能体团队进行构建的工作台、一个运行在 Amazon Bedrock AgentCore 上的运行时,以及一个用于治理、成果、成本和智能体性能的控制塔。针对常见任务(如文档处理和客户情绪分析)的加速器负责处理标准部分,因此每个新工作负载都可以专注于您业务特有的内容。这套有明确主张的 AWS 技术栈、上下文和控制措施会从一个用例延续到下一个用例。
您的上下文是实现规模化的关键。假设您的首个用例是销售自动化工作流。由于其上下文存在于您的 AWS 账户中,下一个用例——供应链优化——可以在此基础上构建,而无需从头开始。您的上下文、工具和 AWS 服务都集中在一处,因此每个用例的构建都比上一个更快。
控制—— 您拥有我们所构建的一切。所有内容都在您的 AWS 账户中、在您的身份、网络和安全控制下运行。您的工程师从第一个冲刺起就与我们的工程师并肩工作,在一个真实的业务问题上同时学习架构和交付方法。此后,即使在合作结束很久之后,他们也能运行和扩展该解决方案。当我们退出时,您的团队通过一个控制塔来运行系统,这是一个用于治理、保护和监控每个智能体的单一视图。我们衡量成功的标准是您的团队在没有我们的情况下能构建多少。
在第一个或第二个项目之后,我们希望您能运行自己的 AI 软件工厂。一家金融服务客户正是借助 AI-DLC 做到了这一点,智能体与工程师协同构建。吞吐量提升了 53%,代码审查速度提高了 56%。
您还能保持选择的开放性。模型正在快速进步。当出现更好或更具成本效益的模型时,您可以通过 Amazon Bedrock 采用它而无需重建,因此您可以同时掌控能力和成本。您还可以自带编码智能体。我们这套适配您环境的有明确主张的 AWS 技术栈,通过 API、开放标准和连接器与您的系统连接,并可在混合环境中工作。您可以保留已经在使用的工具和合作伙伴。
一个人人都在进步的飞轮
您的团队在进步。您的能力随着每个用例而增长。持续演进的上下文、有明确主张的 AWS 技术栈以及您团队的技能都会延续下去,因此第二个用例无需重建第一个用例所构建的内容。
AWS 服务在进步。我们的工程师将客户身上的经验带回产品中。您构建在最新的服务之上,而不是一个会过时的定制解决方案。
整个 AWS 都围绕您运作。客户开发工程探索早期想法,FDE 将最难的问题推进到生产,AWS Professional Services 和 AWS 合作伙伴将工作扩展到您的整个组织,AWS Support 则保障其持续运行。您获得 AWS 全方位的深度支持来支撑您的 AI,同时您始终掌控如何使用它。
有哪些新内容,以及如何开始
AWS FDE 现已在 15 个国家面向商业和公共部门客户提供,并且购买更加简便。每个 45 天的冲刺在 FDE 条款下都有固定价格,并通过您的 AWS 账户计费。
无论客户处于转型的哪个阶段,我们都与之合作。对于刚刚起步的客户,我们构建一个安全、受治理的基础以及其上的首批工作流。对于准备改变工作方式的客户,我们重建诸如理赔处理和 KYC 审查等工作流,以及他们客户直接使用的工作流,如购物和问题解决。随后由智能体来执行这些工作。对于受遗留应用拖累的客户,我们与其工程师合作构建软件工厂,使他们可以针对每个新工作流重复使用。对于已在生产环境中规模化的客户,我们通过能够发现并修复问题的智能体来保障系统安全,并降低每个成果的成本。
如果您已准备好开始,请与您的 AWS 客户团队沟通。请带上一位对成果负责的高管,以及准备好与我们的工程师并肩构建的工程师。我们已经了解项目在启动前会在哪些环节停滞,因此我们的智能体会承担大量准备工作,例如访问权限、数据和安全检查。工作可以在几天内开始。然后我们一起商定第一个冲刺将交付什么,以及我们将如何衡量成功。
能用的 AI 与能改变业务成果的 AI 之间的差距是真实存在的。这是工程、运营和组织层面的差距,我们的团队每天都在帮助客户弥合这一差距。在 AI 上取得成功的组织未必拥有最先进的模型。它们将是那些构建基础、工作流和治理体系,以在整个业务中规模化 AI 的组织。
我们仍处于早期阶段,每服务一个客户我们都会学到新东西。模型将继续演进,围绕模型的工具也将如此。应当持久的是您拥有的基础、持续学习的工作流,以及您可以信赖的治理。这就是我们所说的、在我们的工程师离开之后留下的东西。
要开始使用,请联系您的 AWS 客户团队,或 进一步了解 AWS FDE.
AI 热点