.entry-header
作者: 张兆俊, 朱钦威, 李刚, 肖建威, 王亚楠, 李红梅, Deepak Vijaywargi, Ke Pan, Li Yu
  • 广告排序模型正朝着 LLM 规模增长,其速度超过了运行它们所需的硬件跟进速度。额外一单位算力对某些广告请求、模型和芯片的影响大于其他对象。挑战在于决定将其分配到何处,才能为整个系统取得最佳结果。
  • 我们构建了 Intelligent Delivery,这是一个由 ML 驱动的系统,可在整个服务栈中分配资源,以实现系统范围内的最优。自 2017 年以来,它在模型和系统进步之上带来了约 10% 的增量排序性能提升。
  • 我们分享 Intelligent Delivery 的几项能力:我们如何构建 ML 模型来预测算力的边际效用、跨系统移动资源的多层机制,以及我们如何日益利用智能体 AI 来持续检测并响应系统变化。 

随着前沿广告排序系统朝着更大的模型、更广的候选集和更丰富的投放架构发展,它们对服务效率也提出了更高要求。算力资源的扩展速度跟不上模型和系统复杂度的增长速度。挑战不仅在于如何构建更强大的模型,还在于如何在异构系统中、在有限的服务容量下、在严格的延迟预算内高效地运行它们。我们最近分享了如何 让闲置推理容量投入工作本文介绍我们如何决定每个计算单元的去向,以实现全局最优的系统效率。

Intelligent Delivery 是我们的解决方案,从 2017 年到 2026 年上半年,它在各大场景的模型与系统进步之上,额外带来了约 10% 的广告排序性能提升。它引入了一个由机器学习驱动、日益由 AI 运营的自适应优化层,持续将资源导向边际效用最高的请求、模型、硬件集群和排序阶段。这帮助我们在生产环境中高效运行先进的广告排序模型,让每一单位算力发挥更大价值,为用户使用的应用和服务提供更好的广告。

目标与难点所在

我们的目标之一是构建一个投放系统,无论用户行为如何变化、模型如何演进、服务栈如何变得复杂,它都能持续收敛到全局最优。 

广告投放系统的三个基本特性使这一目标颇具挑战:

算力的边际影响高度异质且依赖上下文: 同样一单位额外算力,可能因产品场景、用户意图、候选质量和系统状态的不同而产生截然不同的回报。仅靠请求感知信号并不足够;要做好分配,就意味着要为每个请求估算每一个可调系统参数的回报,而每个调节旋钮在漏斗的每个阶段表现都不同。我们需要在毫秒级时间内,在庞大的决策空间中为每个请求生成结果计算。

局部最优并不等于全局最优: 结果估算只是起点;服务栈还必须具备动态可控性。广告投放横跨 多阶段排序、数百个模型、多代硬件以及众多数据中心。如果没有能够考虑整个服务栈中复杂依赖关系的自适应控制,资源就无法在这些边界之间自由而可靠地转移。 

全局最优是一个移动的目标: 优化景观在不断变化。每一个新模型、新一代硬件或新架构都会改变这一景观,并可能使此前的最优分配决策失效。系统需要足够快速地适应,以保持其最优性。 

Intelligent Delivery 包含三项能力,每项能力都旨在应对上述一个根本性系统挑战。

Intelligent Delivery 的能力

1. 需求理解: 面向算力的共享机器学习智能层

有些广告请求比其他请求更能从额外算力中获益。起初,我们通过粗粒度分群来捕捉这些差异:按广告位、上下文和广告创意表征等属性对请求进行分组,并由工程师为每个分组制定资源分配策略。这种方法带来了一定提升,但无法扩展。每新增一个信号都会使规则成倍增加,使这项工作难以为继;而且相互独立的分群无法捕捉数千个信号之间的非线性交互,从而限制了准确性。

在将这一问题重新表述为两个机器学习问题之后,我们在主要广告位的离线基准测试中,识别最高影响力广告请求的能力相较此前生产模型提升了约 20%: 哪些广告请求最有可能从额外算力中获益?不同的资源配置又会如何影响它们的结果和投放性能?

静态规则分群(同一分桶中的每个请求获得相同算力)与信号驱动决策(由机器学习驱动的预测器为每个请求设定算力)的并排对比。

为了回答第一个问题,我们构建了 资源核心模型,这是一个具有 6B 稀疏参数和 20M 稠密参数的深度学习模型,在候选召回之前运行一次,并在整个投放漏斗中共享。学习到的嵌入和深层特征交互能够捕捉人工定义的分群无法捕捉的细微请求模式。

随后,我们将资源核心模型微调为一组专用模型,每个模型都会生成关于结果、算力消耗和延迟影响的增量信号。这些模型共同构成了用于资源分配的共享机器学习智能层:资源核心模型理解每个请求及其服务行为,而各个机制则决定如何将这些预测转化为行动。

资源核心模型的架构图,展示稠密和稀疏请求特征如何经过堆叠的交互层,以预测每个请求的结果、算力消耗和延迟影响。

2. 分配机制: 决策引擎的层级结构

广告投放运行在一个全球分布、异构的集群上,包含众多数据中心区域、多代硬件和数百万台主机,所有这些都由一个多层级服务栈共享。单一的分配机制无法端到端地控制复杂的资源分布。因此,我们将问题分解为多个层级,并为每一层构建了专用的决策引擎。理解这一层级结构最直观的方式,是跟随一个请求走完整个流程。

有人打开了自己的信息流。一个广告请求随之产生,并在接下来的几百毫秒内经过一连串资源分配决策。这引出了三个重要的问题及其答案。

哪个区域来服务它? 流量与容量并不位于同一地点,而且每个区域承载的硬件组合和余量各不相同——因此,同样的单位算力在某些地方比其他地方更高效。我们构建了实时基础设施,以分钟级的周期在各区域之间动态转移流量,推动每个区域在其边际容量单元上都达到相同的效率水平。

它运行在什么硬件上? 我们的机群涵盖来自 Intel、AMD 和 Arm 的 CPU,以及来自 NVIDIA、AMD 和我们自研的 Meta 训练与推理加速器(MTIA),跨越每一代的多个代际。困难之处不在于多样性,而在于容量并非可以互换。我们的各个阶段受不同资源约束——召回受内存容量约束,排序受算力约束,模型推理受加速器吞吐量约束——因此不存在单一最快的 SKU,只有针对每种工作负载的最佳匹配。我们针对每一对工作负载与 SKU 组合对实测效率进行基准测试,然后求解分配问题,使稀缺硬件流向能将其转化为最多有用工作的工作负载。 

在主机内部,这个请求能获得这台机器多少算力? 并发请求在延迟预算和影响力上各不相同,且受制于严格的尾部延迟SLO。我们利用先进的深度学习模型实时预测每个请求的预期结果及其算力和延迟成本,并求解一个约束优化问题,以在主机延迟预算内最大化所交付的影响力——随着主机负载增加,性能权衡随之上升,资源密集型的低影响力工作会最先被削减。执行这些决策需要跨整个技术栈的控制,因此该框架从内核级调度器一直延伸到应用级线程池。

一张三步流程图,追踪一个广告请求如何走完整个决策层级:由哪个区域来服务它、它运行在什么硬件上,以及它能获得主机的多少算力。

这三个步骤只是我们在请求生命周期中所做分配决策的一部分。在此之后,我们还会针对每个请求在每个排序阶段优化需要排序的广告数量、哪些广告候选进入候选池,以及更多其他内容。

这些分配决策紧密耦合,因此其中任何一项的资源变化都会波及整个系统。在区域之间转移流量会改变每台主机的负载,而这又会驱动反馈控制器,由它决定每个请求获得多少工作量。我们在端到端、闭环的硬件测试环境中验证这些变化,以确保我们优化的是全局最优解,而不是局部最优解。

3. 优化循环: 具有智能体 AI 的自优化投放

随着我们的广告系统不断进步,将新模型、新机制或新硬件投入生产系统需要付出大量努力才能实现无缝集成。对于一项新变更,我们无法在我们系统中构建的数百万个可调维度上逐一暴力尝试每一种配置。那将需要太多时间,以及远超我们现有的硬件资源。 

我们严重依赖人类专业知识和工程师的先验知识来识别有前景的配置。但这种方法无法扩展,因为每一个新模型、新机制和新硬件世代都会以快于工程师探索速度的速度扩大搜索空间。

我们尝试用约束优化方法来实现自动化,这带来了一些改进,但仍然缺乏灵活性且速度缓慢。我们发现它缺乏泛化能力(只能覆盖少数几个关键调节参数),也无法有效融入来自过往经验的人类直觉。

AI 智能体不再进行盲目搜索,而是持续监控整个系统全景,识别需要处理的变化和低效之处。在长上下文窗口中,智能体会读取机制源代码、设计文档以及长达十年的实验日志,并将范围缩小到少数几个值得测试的变更。工程师在最终变更上线前进行审核和批准。

如今,智能体已经能够提出推理充分的变更方案,并设计、运行严谨的实验。在 2026 年上半年,智能体贡献了约 20% 的 Intelligent Delivery 优化。在我们自动化程度最高的机制上,它们目前贡献了约 80% 的工程投入,从理解系统全景、形成假设,到运行实验并收敛到最终变更。这将优化循环从数月缩短到数周,同时让人始终牢牢掌握控制权。它还持续沉淀工程师多年来积累的专业知识。

AI 驱动的优化循环的循环图,其中智能体收集数据、提出变更并运行实验,由工程师批准每一项变更,并由共享知识库为每个步骤提供支持。

智能投放的下一个前沿

端到端实时优化: 如今,理解一个请求并决定如何服务它仍然是两个独立的步骤。我们正朝着将二者融合为单一模型的方向努力,让模型读取请求并实时提供服务,而无需数月的实验。在基于学习的方法按请求动态调整算力方面,已有成熟的研究工作。然而,在流量不断变化、容量存在硬性限制、阶段间依赖紧密的条件下,同时在每个服务阶段联合完成这一调整,仍是尚未解决的问题,也正是我们正在推进的方向。

在 GPU 上服务最先进的模型: 像大型排序模型这样的 Meta 的生成式广告模型(GEM),正在 并逐步扩展至 LLM 规模 并越来越多地运行在 GPU 上,这开辟了一个不同的优化空间。GPU 容量不像 CPU 时间那样可以细分——它以完整、固定的块为单位提供,而且吞吐量、批处理和内存的行为都各不相同。我们为 CPU 世界构建的杠杆必须被重新构想,而我们现在的许多工作都投入到理解这些机制并将它们转化为新的杠杆上。我们从每个加速器中获得的可用工作越多,在相同容量下,我们就能用强大的模型服务更多的人。

致谢

Sowji Adavi、Karthik Alle、Tao Cai、Olivier Chaine、Jianhao Du、Antonio Frigo、Gayatree Ganu、Chao Li、Chao Ma、Bennet Matazzoni、Riddhi Mehta、Saurabh Pohnerkar、Sudhir Pokhrel、Yuehui Qian、Liang Qiao、Yitao Qiu、Rob Schwartzberg、Sanketh Shetty、Ganlin Song、Samuel Tatipamula、Xueqi Wang、Ye Wang、Wei Wei、Jing Xu、Haomin Yu、Jiayi Yu、Jay Zang、Caijie Zhang、Shengjie Zhang、Tong Zhang 和 Wei Zheng。

分享此内容:

.entry-content