僵尸工作负载拖累数据中心效率，GPU 时代 AI 催生新的清理方法

被遗弃的任务、实例和存储卷可能会无限期地运行下去。FinOps 工具能提供帮助，但 GPU 时代的 AI 需要新的“僵尸猎手”方法。

2026年9月17日

企业通常不会发布“僵尸工作负载猎手”这样的职位。但需求确实存在。随着每一代新技术的出现，被遗弃的库、程序、服务和存储卷的残留物都会继续消耗资源。常识最终会告诉你，是时候找到它们并加以削减了。你没有关掉的东西都会让你付出代价。但找到它们是一场狩猎。

如今，云 FinOps 工程师、成本优化工程师和库存管理人员承担着这种搜寻并消灭的工作。这支新的工程队伍利用可观测性、CloudOps 和 FinOps 自动化来追踪那些有着许多名字的资源——孤儿、流浪者，以及，没错，僵尸。他们规划新容量，并自动下线闲置资产——最好是在这些资产出现在云账单上之前。

这种对效率的追求从未像现在这样重要。新一轮 AI 浪潮已将数据中心行业置于全国聚光灯下，而基于 GPU 的生成式 AI 和代理式 AI 也让公众对资源使用的审视更加聚焦。与此同时，企业团队正重新强调计算成本。

僵尸工作负载会在多云和本地环境中悄无声息地消耗电力、机架空间和预算。它们往往遵循一种常见模式，IDCA 首席研究官 Roger Strukhoff 对 Data Center Knowledge 表示。云僵尸工作负载经常可以追溯到“停止使用应用但从不删除它们的个人或部门”，他说。“当内部组织被合并，或公司被收购，而没有人负责清理未使用的云实例和应用时，它们就会出现。”

根据 Strukhoff 的说法，IDCA 研究表明，美国云用量中多达 13% 来自此类僵尸工作负载。

Broadcom（VMware Aria Cost，前身为 CloudHealth）和 AWS（例如 Cost Explorer、Compute Optimizer）等 FinOps 工具提供商——常被请来协助清理僵尸——估计整体云浪费甚至更高，通常为 25% 至 30% 或更多，其中经常包含孤儿卷和被遗忘的计算实例。

这个问题很顽固，而应用架构的持续变化并没有让它变得更容易。

从缩容到零及更远

如今针对云资源杂乱最常见的解决方案可以追溯到著名的 Unix kill 进程。在无服务器架构中，缩容到零的配置会强制执行运行时限制，使闲置服务停止消耗资源并产生成本。但存在权衡。错误地针对一个活跃服务可能导致冷启动和实例启动时出现不必要的延迟。对于某些尖峰流量模式，这可能是个问题。

FinOps 与可观测性

越来越多的云原生和平台增强功能旨在弥补这一缺口。Google、Flexera、Datadog 和 IBM 等供应商提供的工具可以将账单和性能指标关联起来，以突出显示零使用的计费资源；持续索引资产以检测不活动和损坏的父子服务；并应用带有自动修复的策略，以拆除潜伏在数据中心环境中未被注意的进程。

当然，无限运行的程序早于云计算。它可以追溯到大型机，并延续到客户端/服务器和虚拟机。一种久经考验的运营模式是“拔掉插头，等着有人尖叫”，Intellyx 分析师、中间件和分布式计算资深人士 Eric Newcomer 说。

当云原生微服务获得发展势头时，这种情况发生了变化。“云计算带来了‘无头’服务，这些服务在后台运行，向另一个服务等提供某些数据。许多此类基于微服务的应用可能由甚至数百个服务组成，”Newcomer 说。“如果应用停止，僵尸服务可能仍在继续运行——却什么也不做。”

云计算开创了商用硬件、大规模扩展、激进复制以及 Kubernetes 等容器编排工具的使用。但这些创新并不容易映射到当今的 LLM 和代理式 AI。现代 AI 背后的基于 GPU 的硬件与为云式分布式计算构建的商用配置截然不同——而 AI 僵尸在金钱和电力两方面都代价更高。

Newcomer 指出，在 Linux 基金会和云原生计算基金会的支持下，Kubernetes 正在演进，以更好地支持 AI 工作负载，而新的僵尸类型正在其中出现。Kubernetes 的创新正在向新的以 AI 为重点的云提供商扩散，但其中许多工作仍处于早期阶段。

在 Kubernetes 上支持 AI 因生成式 AI 和代理式 AI 的移动目标特性而变得复杂。仍有大量研发工作。团队经常遇到长时间运行的任务、运行中管道崩溃以及未能清理任务的编排脚本。此外还有管理模型权重、数据摄取等的复杂性。

据 AI 优化平台制造商 Akamas 的开发者关系工程师、云原生计算基金会大使 Graziano Casto 在与 Data Center Knowledge 的电子邮件交流中表示，这创造了一种非常不同的工作负载特征。

“GPU 比 CPU 核心更贵，所以那些在云账单上原本只是零头误差的低效，会变成非常真实的数字。一块 GPU 闲置着并不是小小的浪费，”Casto 说。“LLM 时代带来的变化是，忽视低效的代价几乎在一夜之间上升了一个数量级。”

“LLM 时代带来的变化是，忽视低效的代价几乎在一夜之间上升了一个数量级。”——Graziano Casto，Akamas 开发者关系工程师、云原生计算基金会大使

这种低效在研发中尚属预期之内，但到了生产环境就成了大问题，并催生出一类代价高昂的新型僵尸：闲置或被遗弃的 GPU。

“Kubernetes 正在进入这个领域，而且进展很快，生态系统也在明显构建新的原语以跟上步伐，”Casto 说。“但它仍然暴露出平台最初的种种假设所基于的工作负载，比它如今越来越多被要求运行的工作负载更廉价、更具弹性。”

Kubernetes 正在为 AI 而演进，包括针对专用硬件的动态资源分配，以及更智能的批处理作业调度——后者会考虑许多 AI 作业对拓扑和局部性的要求。

不出所料，效率监控和僵尸工作负载排查如今依赖于警惕的 GPU 健康与利用率检查。芯片级可观测性正成为顺畅运营的基本门槛。

Casto 指出，NVIDIA 的数据中心 GPU 管理器（DCGM）是监控的中流砥柱，可用于衡量 GPU 看起来有多忙。“问题就出在‘看起来’这几个字上，”他说。“一块 GPU 在 DCGM 的利用率数字上可能看起来很忙，而实际上它只是待在那里等待[某个其他动作]，比如尚未到达的数据，或者同一作业中落后的另一块 GPU。”

网络活动可能是这些设置中的一个盲点。正因如此，正在进行的 OpenTelemetry 标准工作很重要，Casto 补充道：不同工具必须能够互操作，以关联性能信号。他说，这些努力正在为这种 AI 作业监控建立一套通用词汇。

回归基础：策略与归属

Strukhoff 强调，寻找新型僵尸变体不应掩盖基础工作。组织需要明确的策略来消除僵尸工作负载。“必须提醒单个用户在完成后关闭其实例。或者更好的做法是，组织应设立监控机制，提醒管理员注意僵尸工作负载，并制定策略关闭那些未被使用的工作负载，”他说。

在实践中，这意味着对所有使用情况进行例行的全环境扫描，并建立一套清理方法——尤其是在内部整合或收购之后。工具在改进，工作负载在变化，但规则依然不变：你没有关掉的东西，就会让你付出代价。

关于作者

Jack Vaughan

Jack Vaughan 是一名自由撰稿记者，此前曾负责 TechTarget 旗下 SearchDataManagement、SearchOracle 和 SearchSQLServer 的编辑报道工作。在 2004 年加入 TechTarget 之前，Vaughan 是 Application Development Trends 和 ADTmag.com 的特约编辑。此外，他还为《Software Magazine》《Digital Design》和《EDN News Edition》等刊物撰写过关于计算机硬件和软件的文章。他拥有波士顿大学的新闻学学士学位和科学传播硕士学位。

想在 Google 搜索结果中看到更多 Data Center Knowledge 的故事吗？

编辑精选

2026 年 8 月 21 日

想在 Google 搜索结果中看到更多 Data Center Knowledge 的故事吗？

2026 年 9 月 21 日至 23 日，欢迎加入在德克萨斯州达拉斯 Gaylord Texan Resort & Convention Center 举行的整个数据中心生态系统盛会。