←News detail

Semiconductor Industry ObserverUpdated Oct 26 15:26

NVIDIA H200 rental prices are up about 160% from the start of the year, and A100 rents are also higher than at the start of the year

English text is being prepared.

AI summary

Driven by growth in AI inference demand, NVIDIA data center GPU rental prices have rebounded overall, with H200 rents up about 160% from the start of the year, B200 up about 120%, H100 up about 35%, and rents for the A100, which has been on the market for years, also higher than at the start of the year. Using a six-year straight-line depreciation model as a reference, current rents for some GPUs are up to about 143% higher than the model's estimated values; as of now, the per-card rental price is $6.30 per GPU-hour for the H200, $9.70 for the B200, $3.03 for the H100, and $1.09 for the A100. The article also mentions that the number of Tokens processed weekly by a model invocation aggregation platform grew from about 0.5 trillion in mid-January 2025 to 128.4 trillion in mid-September 2026, but existing data do not yet break down the specific sources of rental demand.

Why read this

AI score 58

The original article uses rental price indices and depreciation models for comparison, showing the price divergence between old and new GPU generations amid growing inference demand.

Topics

Tags

Body

老卡越租越贵!英伟达H200租赁价暴涨143%:A100租金也跟着涨来源:半导纵横发布时间:2026-10-26 13:50英伟达算力生成海报AI推理需求持续增长,GPU租赁市场迎来回暖,新旧型号的算力价值正在重新受到关注。

老款GPU,租金也在上涨

随着全球AI Token消耗量增长,英伟达数据中心GPU租赁市场出现价格回升。H200租金涨幅突出,B200、H100等产品也呈现不同程度的上涨趋势,就连已经上市多年的A100,租赁价格也高于年初水平。

据相关行业分析,2026年以来,GPU租赁价格整体呈现上涨趋势。其中,H200租金较年初上涨约160%,B200上涨约120%,RTX PRO 6000上涨约65%,H100上涨约35%。即使是已经发布多年的A100,其租金也高于年初水平。

从租金变化过程来看,这轮涨价并非从年初便一路持续上涨。2026年第一季度,多款GPU租赁价格一度回落,H100和B200的价格曾比年初水平低约23%。进入4月和5月后,价格开始明显反弹。H200在5月下旬冲高,随后经历了几周回调,到了10月又重新走高。

从另一个维度来看,若以六年直线折旧模型为参照,部分GPU当前租金较模型估算值高出最高约143%。这意味着部分GPU的实际租赁价格表现明显强于理论折旧曲线所对应的水平。

从单卡租赁价格来看,相关交易价格指数也呈现出类似趋势。以截至目前数据为例,H200的租赁价格为每GPU小时6.30美元,B200为9.70美元,H100为3.03美元,A100为1.09美元。其中,H200近一个月上涨约24%,B200上涨约20.7%。这些数据来自GPU租赁市场交易价格指数,并不代表所有云服务商的统一报价。

不同型号GPU的价格走势存在差异。显存容量、计算能力、互联能力以及适用工作负载,都会影响客户的租赁选择。随着AI应用场景扩大,市场对不同档次算力的需求也在发生变化。

H200为什么更受关注

H200租金上涨,与其面向大模型训练和推理任务的产品定位有关。

据公开产品资料,H200采用Hopper架构,配备141GB HBM3e显存,显存带宽达到4.8TB/s。相比H100,H200的显存容量接近翻倍,带宽提升约40%。该产品面向生成式AI、大语言模型和高性能计算等工作负载,在部分大模型推理任务中具有性能优势。

H200拥有更大的显存容量和更高的带宽,能够适应部分对显存资源要求较高的任务。对于提供GPU云服务的企业而言,如果客户需要运行大型模型或承担较高的推理负载,H200就有机会获得更多租赁需求。

AI Token增长,带动算力需求

GPU租金回升背后,AI应用规模的变化是一个重要观察方向。

大模型行业正在从模型训练扩展到日常推理调用。随着模型被接入更多软件、开发工具和企业业务,GPU需要持续处理用户请求,推理计算也因此成为算力需求的重要组成部分。

据一个模型调用聚合平台公布的统计数据,该平台每周处理的Token数量从2025年1月中旬的约0.5万亿,增长到2026年9月中旬的128.4万亿,在约20个月内增长了约250倍。相关统计还显示,自主程度更高的AI Agent正在推动Token使用量进一步增长。

模型调用量的增长会直接增加推理任务的执行次数。AI Agent与一次性问答有所不同,它往往需要连续调用模型、执行工具、处理结果,并根据反馈继续推理。同一项任务可能涉及多轮模型调用,Token消耗量随之增加。随着这类应用扩大,计算资源的需求也可能持续增长。

据相关行业分析,2026年春季以来,模型调用量明显增长,GPU租金也在这一时期开始走高。不过,现有数据尚未明确拆分租赁需求的具体来源,无法确认AI Agent、企业级应用部署等不同场景各自贡献了多少增量。

供给侧因素同样会影响租赁价格。数据中心容量、电力供应以及GPU设备的实际可租用数量,都可能影响市场供需。Token需求增长与GPU租金上涨在时间上存在关联,但价格变化还受到多种因素共同影响。

老卡仍有自己的市场

新一代GPU租金上涨,并不意味着老款产品已经失去竞争力。A100的情况说明,GPU市场的需求并非完全由最新产品决定。

A100采用英伟达Ampere架构,部分型号配备80GB HBM2e显存,并支持多实例GPU等功能。虽然其产品代际落后于H100、H200和B200,但对于部分模型微调、推理服务及其他适配现有硬件的软件工作负载而言,它仍然具有实用价值。

除了A100,更早期的Tesla V100也有机会在特定任务中发挥作用。据相关报道,搭配NVLink互联的四卡V100系统,在部分中等规模大语言模型任务中仍具有一定竞争力。相关测试还给出了其相较于M5 Ultra和DGX Spark最高约230%的性能优势,部分高显存版本在二手市场上也出现了约200美元的溢价。

这类对比与具体测试任务、软件适配和硬件配置密切相关,不能直接推及所有AI负载。不过,它反映出老款GPU仍有自己的应用空间。只要能够满足特定任务的性能、显存和成本要求,老卡就有机会继续参与AI计算。

对于云服务商来说,已经投入使用的GPU仍然可以通过出租计算资源获得收入。部分任务不必使用最新一代GPU,老款设备仍有机会凭借适合的租赁价格吸引客户。新卡性能提升带来的需求,也未必会完全挤压旧卡的使用空间,不同代际的产品可以服务于不同的负载和预算。

GPU租金提高能够增加设备单位时间的收入,但最终能否改善利润,还要看设备利用率与整体运营成本。电力、散热、数据中心场地、网络、维护和设备闲置等开支,都会影响运营商的实际收益。

相关行业分析还显示,A100和H100在此前较长一段时期内,租赁价格曾低于按照六年直线折旧模型估算的水平。随着2026年春季以来的价格回升,部分GPU的租赁收益表现有所改善,但不同型号的供需情况仍有差别,未来价格走势还取决于算力需求与供应变化。

从H200、B200的租金上涨,到A100和V100仍有应用空间,GPU租赁市场呈现出一个值得关注的变化:AI计算需求正在覆盖更多硬件代际。新一代产品凭借更大的显存和更高的带宽承接高要求任务,老款产品则继续服务于能够适配的工作负载。

对于AI算力产业链而言,除了关注新GPU的性能和出货量,设备利用率、推理需求变化以及不同型号之间的成本与性能匹配,也将成为观察算力市场的重要指标。

本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。 评论暂无用户评论最新资讯更多 相关推荐

DB HiTek IATF 16949续证,发力车规芯片2026-10-26 13:54

开源神器解锁隐藏AI算力,RTX 30系老卡“复活”2026-10-26 13:45

三星自测Exynos 2700性能比高通旗舰芯片高出约20%2026-10-26 11:48

Source

Semiconductor Industry Observer