Baidu AI Cloud launches a dual-layer AI Infra and Agent Infra foundation to support the implementation of industrial agents

智能体的规模正在快速扩张。IDC预测，到2030年，全球活跃Agent数量将达到22.16亿个，年复合增长率达到139%，年均增长超1倍。

与热度同步攀升的，是Token（词元）的消耗量。国家数据局披露，到今年3月，我国日均Token调用量已超过140万亿，较2024年初增长1000多倍；中国信通院的监测则显示，到今年6月，这一数字已达500万亿。如此庞大的调用量说明，智能体已经走出概念演示，开始承接大量真实任务。

这些被高频调用的智能体，大多集中在通用能力和高频场景。还有一条路线值得单独拿出来看——产业智能体。通用智能体比拼的是场景覆盖和调用频次，产业智能体则直接扎进社区治理、工厂车间、园区和门店这些业务现场，解决琐碎复杂的现实问题和日常事务。

这正是百度智能云蹚出的一条路子。在10月29日于武汉举行的百度智能云超级智能体大会上，从社区治理、园区运营、制造生产到门店管理，各类场景都涌现出百度智能体落地应用的实际案例：它可以根据居民诉求自动生成治理工单，把群众的需求变成可追踪、可闭环的处理流程；它还能将工厂老师傅的经验沉淀成可调用的技能，方便后续快速复用。

将这些实践连起来，不难看出百度智能体落地呈现出的几个特征：一是场景聚焦产业一线，治理、运营、生产、服务等环节均有实际落地案例。二是直面复杂需求，尤其是工业制造这类经验密集、流程冗长的领域，对智能体的执行能力要求更高；三是强调任务闭环，能够让需求有结果、经验可复用。

要让智能体在企业中长期、规模化地运行，需要先解决资源供给、任务执行、数据连接和安全管理这几道难题。百度智能云因此推出AI Infra与Agent Infra双层基础设施，让智能体成为企业关键生产力。

一、从个人助手到业务主力，智能体闯行业深水区

最近一年，智能体正从个人提效工具，走向企业核心业务场景，落地步伐逐步迈向深水区。会上，百度副总裁石清华称，百度搭子作为通用智能体，今年3月上线后，月活已达千万级，环比增长10倍以上，智能体正在快速向大众渗透。

在C端不断普及的同时，智能体也在企业业务场景释放产业价值。

杭州调味品企业松鲜鲜接入百度搭子后，原本需要两天完成的数据汇总工作，可缩短至3分钟。智能体展现出跨系统数据读取与业务洞察能力，开始连接企业内部系统，参与经营分析和业务判断。

企业业务场景之外，百度搭子还深度参与基层治理。在武汉硚口，政企服务企业鸿海鑫基于百度搭子的基层治理项目已覆盖100万人口、300位用户和40个真实场景。居民在网格群发布的信息，经智能体分析后可自动生成诉求工单，并推送至街道系统跟进处理。在复杂场景下，百度智能体具备非结构化数据处理能力、自动化执行能力与跨系统协作能力。

无论是企业增效还是基层治理，智能体的落地并非一蹴而就，其背后是一整套系统工程的重新构建。随着Agent在企业中的参与度不断提高，相关基础设施也需要同步升级。

百度智能云技术委员会联席主席郑然在接受智东西采访时谈道，企业调用的已不只是一个大模型接口，想要让智能体深入业务，还需要云厂商提供两类支撑：一方面是开箱即用的Agent能力，帮助企业快速接入和试错；另一方面是支撑智能体长期运行的基础设施，包括运行环境、数据连接、安全管理和持续运维等。

而这两类能力，正是百度智能云面向企业智能体落地所提供的底层支撑。

二、智能体要长效，模型之后，要先补“运行底座”

要让智能体在企业中发挥长效价值，需要为它提供一个安全稳定、价值可衡量的运行环境。

首先，智能体需要调用工具和企业内部数据，一旦操作失误就可能引发数据泄露或系统崩溃，因而需要一个安全的执行环境，“沙箱”可以让智能体在封闭环境内执行任务，避免波及其他系统。

其次，大模型还具有随机性，企业还需要知道智能体到底做了什么、花了多少成本、效果如何，这就要求基础设施具备“可观测”能力，帮助企业看清Agent成本、定位问题，推动效果持续迭代。

Agent Infra的本质，正是把一次性的模型调用，变成一个可以长期运行、可观测、可治理的任务系统。智能体部署完成后，真正困难的是让它在企业环境中稳定运行，并持续交付结果。要做到这一点，需要先了解智能体的底层技术形态。成熟的云原生应用能够按需启动，根据任务量弹性调整计算资源，通过标准化方式调用云上的计算、存储和网络资源，由平台持续完成部署、调度和运维。

郑然告诉智东西，智能体本身也是一种云原生应用，现有云原生技术仍然是其运行基础。但智能体的资源需求更具弹性，运行中也在一定的不确定性，未来还可能以海量规模运行，因此云原生基础设施需要进一步演进，以适应它的工作负载。

随着智能体数量快速增长，基础设施还要支撑更大规模的协同运行，这对底层架构提出了更高的要求。这就意味着，Agent进入生产后，企业的核心缺口逐渐从模型转向运行底座。

郑然称，企业如果从头建设Agent Infra，需要覆盖计算、存储、网络、云原生和大模型工程等多个技术领域，建设投入和持续维护成本都很高。云厂商则可以通过上下游协同和规模化运营，把这些能力沉淀为开箱即用、分层可组合的产品。企业可以根据自身所处阶段，灵活选择基础设施、Agent平台或开箱即用的智能体，快速验证想法并持续迭代。

百度智能云的Agent Infra覆盖沙箱、计算、网络、存储、可观测和安全等能力。沙箱负责快速启动任务、隔离运行环境并保存任务状态，让智能体在安全边界内执行任务；计算、网络和存储则像“水电”一样，高效支撑任务执行、数据访问和上下文处理；可观测能力记录智能体的执行轨迹，帮助企业分析成本、效果和故障原因。

通过这些能力，智能体才能长期、稳定、安全地运行。在底层能力之上，百度智能云还进一步降低了智能体调用的门槛。过去，云产品复杂的界面和繁琐的配置往往阻碍了智能体的自动化执行；为此，百度智能云专门针对Agent的调用习惯，深度优化了云产品的交互界面和使用方式，让智能体能够像“调用本地文件”一样，更高效、直接地调度云上的计算、存储和网络资源。

目前，百度智能云已在自有产品和客户项目中持续验证相关能力，为企业提供从资源供给、智能体运行到开发运营的完整支撑。

三、Token需求爆发式增长，AI Infra需要提升资源效率

Agent Infra把智能体的任务跑起来之后，背后还需要AI Infra持续提供模型训练、推理和资源供给。随着智能体数量和调用规模增长，AI Infra面对的压力也在同步上升。IDC预测，这些智能体带来的推理需求将超过100吉瓦。智能体越多、任务链路越长，算力、存储、网络和能源投入就越高，云厂商需要同时扩大资源供给，并提高每单位资源的Token产出效率。

郑然在采访中提到，智能体上下文长度不断提升，模型参数规模持续扩大，结构更加稀疏，后训练占比也在提升。这些变化对计算、存储、网络和推理效率提出了更高要求，基础设施也需要围绕模型训练与推理重新设计，提升长上下文场景下的数据访问和Token效率。

百度智能云通过百舸AI计算平台6.0，将AI计算平台从单纯提供算力，升级为能够协同基础设施、资源管理和工程能力的“智能工厂”，更高效地支撑智能体的运行。

智能体走入更多场景的背后，既需要Agent Infra承接智能体的任务执行、工具调用和运行管理，也需要AI Infra持续提升模型训练推理和资源供给效率。两者协同，才能让智能体在更长任务链路、更大规模的调用中保持稳定运行，并控制整体使用成本。

结语：Agent进入生产现场，全新云底座稳住落地需求

智能体正在从个人工具变成企业业务系统中的执行单元。模型能力只有进入生产环节，才能转化为可以持续复用的产业价值。

当前智能体在越来越多的场景中落地，不断催生新的需求，这种“新”也会带动芯片、光模块、存储等基础设施产业发展，催生新的应用场景和商业模式。

对云厂商而言，竞争重点也从提供单一算力资源，扩展到支撑智能体长期运行的完整基础设施。AI Infra与Agent Infra的协同，正在成为Agent落地的重要路径。