来源: Authentic Path

写在前面,Some pics when Jensen delivered the first nvidia ai system to openAi.

照片是2016年拍的,英伟达(NVIDIA)CEO 黄仁勋(Jensen Huang)将全球第一台 AI 超级计算机 DGX-1 亲自交付给当时由埃隆·马斯克Elon Musk, IIya等共同创办的 OpenAI。此举极大地推动了深度学习与人工智慧技术的发展。
The full quote by Admiral Hyman G. Rickover(头衔:美国海军上将,“核海军之父(Father of the Nuclear Navy)”: Man has a large capacity for effort. But it is so much greater than we think it is, that few ever reach this capacity. We should value the faculty of knowing what we ought to do and having the will to do it. Knowing is easy. It is the doing that is difficult. The critical issue is not what we know but what we do with what we know. I believe it is the duty of each of us to act as if the fate of the world depended on him.
人蕴藏着巨大的行动力。这种潜力远超出我们的想象,因而极少有人能将它发挥到极致。我们应当珍视一种能力:认清何为应为之事,并拥有付诸行动的意志。知之易,行之难。关键不在于我们懂得什么,而在于我们如何运用所知。我坚信,我们每个人都肩负一份责任,行事之时,当仿佛世界的命运系于己身。



Ilya Sutskever in 2016

2022年H100发布时,80GB显存、3.35TB/s带宽和最高700W功耗已经足以定义大模型训练基础设施。到2026年,Rubin将单颗GPU显存推进至288GB、带宽最高22TB/s。四年中显存增长3.6倍,带宽约增长6.6倍,系统架构从8卡服务器进一步走向72卡高速互联机柜。但真正影响产业投资的并非芯片变得有多快,而是计算成本变化。英伟达展示的指定推理测试中,HGX H200每百万Token成本约4.20美元,GB300 NVL72约0.12美元,下降35倍。与此同时,新系统每GPU每小时计算成本更高。这组对比将技术升级与商业投资连接起来:采购成本、单位产出、电力效率和资本回收,必须一起计算。
黄仁勋将数据中心描述为持续生产Token的AI工厂。对于投资人,GPU数量更像设备台数;每兆瓦有效Token、每百万Token成本、客户支付价格及现金回收周期,才更接近真正的经营指标。以下所有对比均区分官方参数、厂商测试、市场挂牌报价与本文情景测算。

一、五代GPU参数总览:哪些性能真正提高了?

指标

H100

H200

B200

B300*

Rubin

架构

Hopper

Hopper

Blackwell

Blackwell Ultra

Rubin

年份

2022

2023/24

2024/25

2025

2026

显存GB

80

141

180

270

288

显存类型

HBM3

HBM3e

HBM3e

HBM3e

HBM4

带宽TB/s

3.35

4.8

8.0

7.7

22

NVLink

第4代

第4代

第5代

第5代

第6代

主要进步

FP8训练

容量与带宽

FP4和整柜

推理和KV缓存

HBM4与系统协同

注:B300*此表采用早期HGX 270GB口径,后续HGX参考架构及市场报价有288GB配置;GB300 NVL72另有279GB配置。采购时必须按具体SKU核对数据,不能跨版本合并成同一台设备。不同精度及稀疏/稠密条件的PFLOPS也不可直接混比。


 图|单GPU显存容量;不代表模型可用容量完全等于标称容量。


 


图|单GPU理论HBM带宽;不同GPU版本参数必须分开。


二、H100与H200:推理为什么开始受显存约束?

H100的Transformer Engine和FP8支持使它成为大型模型训练的标志性产品,H200则沿用Hopper架构,把显存从80GB增加到141GB(+76%),带宽从3.35TB/s增加到4.8TB/s(+43%)。在模型生成输出Token的阶段,系统频繁读取权重与KV Cache,显存访问常成为吞吐瓶颈,因此H200的升级并不保守。例如700亿参数模型以BF16保存权重,理论上仅权重就需要约140GB;H200的141GB也无法在单卡上同时容纳完整权重、KV Cache及运行时开销。实际工程仍依赖量化、多GPU模型并行和缓存管理。投资判断需要看同模型、同响应速度下设备数量和吞吐变化,而不是直接把“显存大76%”解释为“收益大76%”。

三、B200与B300:低精度、并发和长上下文的经济价值

B200通过Blackwell架构、FP4支持、180GB HBM3e和最高8TB/s显存带宽,提高低精度推理和训练计算能力。FP4对一些已经验证的工作负载能够减少数据搬运,提高吞吐;但实际效果取决于量化质量、缩放开销和算法实现,不能将位数降低直接等同于全部成本减半。

B300强化的是AI服务的承载能力:更大的显存空间、更强的注意力相关计算能力,适合长上下文、多用户并发与复杂Agent。假设一个80层、8个KV Head、Head维度128、BF16 KV缓存的模型,每Token KV Cache约320KiB,10万Token的单用户上下文约31.25GiB。100个相同上下文合计超过3TiB;这解释了为何KV Cache管理可能直接制约并发收入。B300并不保证所有业务都优于B200。较短上下文和低并发业务未必用满额外显存,采购时应比较延迟、实际吞吐、显存使用率与单位Token成本。

四、Rubin:从单卡性能转向整套AI工厂

Rubin采用HBM4,最高288GB显存、22TB/s带宽和NVLink 6。Vera Rubin NVL72把72颗Rubin GPU、36颗Vera CPU、交换芯片、网络与整柜液冷组织为系统产品。按照公开系统规格,合计GPU显存约20.7TB、显存带宽约1,400TB/s;这是各GPU本地HBM的合计,不能当成一个无通信开销的共享内存池。新架构的重要创新不仅在GPU核心。Vera CPU、NVLink交换网络以及围绕长上下文的分层缓存、存储与软件调度,会影响最终能够服务多少用户。Rubin系统的工程采购、系统导入以及独立长期运营成本还需要项目验证,因此本文不对Rubin给出确定IRR。

五、黄仁勋的核心判断:每瓦Token产出决定产能

黄仁勋在2026年的AI工厂讨论中把Token视为计算设施的输出产品,要求综合审视吞吐量、交互速度和成本。在大型GPU园区,电网接入、配电与冷却能力形成硬边界:增加设备购买预算,并不等于可以增加供电容量。这一观点意味着,应该同时衡量:每GPU每秒生成多少有效Token;每兆瓦每秒生成多少Token;在限定用户交互速度时每百万Token成本是多少;以及客户是否愿意按相应价格支付。对EPC开发商则意味着服务器选型与供电、液冷、网络和商业合同需要同步设计。


六、权威效能比较:H200到GB300的35倍差距

同一厂商基准指标

HGX H200

GB300 NVL72

计算成本(美元/GPU·小时)

1.41

2.65

Token/s/GPU

90

6,000

Token/s/MW

54,000

2,800,000

美元/百万Token

4.20

0.12

 


 图|英伟达基于SemiAnalysis InferenceX的指定条件测试;不代表任意模型或云租赁报价。

每GPU小时费用约增加88%,每GPU公布的Token吞吐却从90升至6000;每百万Token成本因而从4.20美元下降到0.12美元。这组数据的前提是特定模型、并发、响应速度和软件栈。表中取整数字直接计算会产生细小差异,也不能拿云市场挂牌租金替代其成本假设。

英伟达的推理数据最能说明技术方向,但投资者应要求第三方对指定模型复测,并明确Prefill与Decode比例、Batch Size、输出质量、服务时延和持续可用率。理论FP4算力高,并不意味着复杂Agent工作负载一定有同等成本优势。

七、租赁市场价格:新卡更贵,但每单位服务成本未必更高

GPU

按需美元/小时

Spot美元/小时

720小时按需费用

H100

3.71

2.40

$2,671

H200

5.12

3.19

$3,686

B200

7.74

5.02

$5,573

B300

9.52

5.61

$6,854

 


图|06.ai 2026年11月1日按需GPU价格指数;挂牌均值,非签约合同。


B300按需挂牌价格约为H100的2.57倍。Spot报价明显低于按需,但存在被回收和不可持续交付的风险,不能直接用于保底收入测算。更不能将长期采购合同价格、按需报价、Spot报价和厂商内部经济性测试放在一张财务表里直接比较。以H100和B300为例,如果B300小时价格是H100的2.57倍,要让每百万Token计算租赁成本更低,同一服务约束下的有效Token/s至少需要超过2.57倍;若低于这一增幅,则更新卡并不必然更便宜。这个盈亏平衡关系比只比较PFLOPS更直观。

八、10MW AI数据中心:电力与GPU装机如何算账?

假设项目为10MW IT容量、全年满载8760小时、PUE 1.30:全设施平均功率13MW,全年用电1.1388亿千瓦时。电价0.05美元/kWh时,年电费569.4万美元;电价0.085美元/kWh时,年电费967.98万美元。若10MW指电网总接入功率,IT可用容量仅7.69MW,不能混为一谈。

10MW IT场景

结果

PUE

1.30

总功率

13MW

年度总电量

113,880,000 kWh

年电费:$0.05/kWh

$5,694,000

年电费:$0.085/kWh

$9,679,800

以GB300 NVL72参考架构最大142kW/柜为例,假设10MW IT预算的90%分配给GPU计算机柜,可部署floor(10000×90%÷142)=63柜,共4536颗GPU。剩余IT功率用于网络、存储及其他负载;此配置仍需检查冗余、实际功耗、液冷系统、消防和机柜空间。



九、10MW AI工厂的Token收入:理想峰值与实际经营之间差多远?

若机械地按厂商指定工作负载每GPU每秒6000 Token推算,4536颗GPU理想峰值为2721.6万Token/s,全年约858万亿Token。该数字不是可保证的现实产量。下面把实际可收费Token产量设为这一理想上限的20%、40%和60%,并测试不同价格下收入敏感性。

实现率

0.5美元/百万

1美元/百万

2美元/百万

20%

0.86亿美元

1.72亿美元

3.43亿美元

40%

1.72亿美元

3.43亿美元

6.87亿美元

60%

2.57亿美元

5.15亿美元

10.30亿美元

上表是假设模型,未扣除硬件、机房、电力、网络、平台与客户获取成本,也没有区分输入Token、输出Token、缓存Token或不可收费重试。这里的实现率是可计费实际产出与理想峰值的比值,不应直接等同于GPU利用率。客户支付单价下降速度可能完全改变收入曲线。


十、GPU投资回报模型:3年回本需要什么租金?

为避免编造具体GPU采购成交价,先设置一个透明假设:每GPU分摊服务器与网络资本成本10万美元,运营费用5000美元/年,5年经营期、无残值、无所得税和融资;GPU计费利用率分别40%、65%、85%。按小时租金5美元计算,年度现金流=5×8760×利用率−5000。

情景

利用率

年租金收入/卡

年净现金流/卡

简单回收期

保守

40%

$17,520

$12,520

7.99年

基准

65%

$28,470

$23,470

4.26年

乐观

85%

$37,230

$32,230

3.10年

如果目标为3年简单回本,每GPU需要的净现金流为每年33333美元,加运营费用后,70%计费利用率条件下所需租金约为6.25美元/GPU小时。若只能收4美元/小时,则年现金流约19528美元、简单回收期约5.12年。实际IRR还需计入每年的租价下降、融资、税费、维修更换、残值及交付延迟。(不同代际GPU的最佳采购决策,应以真实设备报价和客户合同重新测算。最新GPU可能在Token生产效率上显著领先,却也可能因设备价格过高、客户需求不足或技术折旧太快,形成较弱的股东回报。)


十一、发展趋势:AI芯片竞争从FLOPS转向每兆瓦现金流

2022—2023年比拼FP8训练与HBM;2024—2025年竞争重点转到FP4、72卡整柜与更大显存;2026年Rubin进一步整合HBM4、NVLink 6、CPU、存储网络和软件。下一阶段,单卡理论算力仍重要,但设备产出率、计算系统交付能力和电力资本效率将越来越决定项目价值。

软件升级同样值得关注:模型量化、批处理、推理调度、KV Cache压缩或复用、计算内核等优化,可能在不替换GPU的情况下提高有效Token产出。这意味着GPU资产价值受到两股力量影响:软件持续改善旧硬件效率,新代际又加速旧设备的市场价格下降。

产业链受益环节包括HBM、先进封装、高速互联、光模块、供配电及液冷设备。中国企业的重要机会在于电力设备、机电工程、通信与液冷的制造及国际交付能力;投资者需要把这些长期设备资产与更快折旧的GPU计算资产分开评估。

十二、黄仁勋的Token经济学:为什么要用生产率重新评价GPU?

黄仁勋近两年的重要变化,是越来越多地把数据中心称为AI Factory,即AI工厂。他强调,AI工厂的产出是Token,电力构成生产能力的物理边界。过去一座数据中心习惯用服务器数量、机柜数、GPU数和算力峰值衡量规模;今天同一座机房在不同模型、软件和服务速度下,生产能力可能相差数倍甚至数十倍。对云厂商,GPU并不是陈列在财务报表里的固定资产,而是需要以尽可能高的效率持续创造可结算产品的生产设备。这个变化解释了英伟达为什么在产品宣传中同时强调Tokens per Watt、Tokens per Second per User和Cost per Token。

其中,Tokens per Watt回答有限电力能生产多少计算服务;Tokens/s/User回答用户可以获得怎样的交互体验;Cost per Token回答经营端为单位服务付出多少成本。三者必须同时满足。仅追求总吞吐,可以把大量用户请求积压在队列里,牺牲每人的响应速度;只追求极低延迟,则可能让GPU空闲,降低计费利用率;只追求采购价格低,又可能因显存不足、互联慢和运维复杂而增加长期单位成本。投资者应当把三个指标放在一个坐标体系中评价,而不是拿厂商发布的一项峰值数值直接推断盈利。

例如,假设两套设备每小时总成本分别为1,000美元和1,600美元,在相同模型、输出质量、输入输出长度和90百分位响应时间要求下,旧设备每小时完成2亿可计费输出Token,新设备每小时完成8亿。两者每百万输出Token的计算成本分别为5美元和2美元。新设备每小时贵60%,单位产品成本却下降60%。然而如果新设备的平均计费实现率仅为20%,实际可售Token只有1.6亿,其成本便回到10美元/百万Token。由此可见,厂商性能优势可以成为盈利的必要条件,却无法替代客户合同、服务利用率与实际结算收入。

黄仁勋观点的投资含义

这一框架把全球AI产业链重新分成四种角色:英伟达出售生产设备,供电与EPC开发商建设工厂,云服务商组织产能,模型与应用企业面向终端客户销售智能服务。它们面对不同风险。GPU制造商按照硬件和系统销售额确认收入;机房开发商依靠容量出租与工程交付;云商承担GPU折旧与利用率;应用企业承担用户增长和服务价格竞争。把某一环节的毛利率套用到另一环节,是讨论AI基础设施投资回报时最常见的错误。

十三、五代GPU规格需要怎样比较才公平?

同一架构往往存在PCIe卡、SXM模块、HGX服务器、GB系列CPU-GPU超级芯片和NVL72整柜等不同配置。B300尤其容易发生口径混淆:HGX平台的部分官方版本标称270GB,新版或其他规格标称288GB,GB300 NVL72又采用不同的封装口径。因此文章中的容量和带宽比较采用明确列出的代表产品,不把不同SKU的最大值拼接成一张不存在的“超级GPU”。Rubin单GPU288GB HBM4和最高22TB/s来自2026年7月英伟达架构介绍;DGX Vera Rubin NVL72的整柜标称显存为20.7TB,带宽在不同厂商和资料版本中出现1,400TB/s和1,580TB/s两个值,本文关于整柜的具体工程计算优先采用注明版本的DGX资料。

峰值算力也有不同口径。FP64主要涉及科学计算,FP32用于通用计算,BF16/FP16和FP8主要用于深度学习,NVFP4强调更低精度的AI运算。厂商给出的稀疏峰值算力,在部分支持结构化稀疏的模型中才有意义,不能与稠密计算峰值直接混算。同样,低精度吞吐提升并不保证每个模型的最终准确度和服务质量都完全一致。实际比较至少要求相同模型版本、相同量化策略或经过质量验证的精度方案、相同输入/输出分布、相同并发与延迟目标。

比较维度

必须统一的条件

否则会产生的误读

单GPU性能

精度、稀疏/稠密、功率封顶

把FP4峰值误当通用模型提升

显存

SXM/HGX/NVL SKU、HBM版本

把不同GPU的容量合并比较

网络

节点内NVLink、节点间InfiniBand/以太网

把局部带宽误认为整网带宽

推理吞吐

模型、输入长度、输出长度、延迟、并发

不同场景的Token/s不具可比性

价格

裸卡、8卡服务器、整柜、按需/包租

低估网络、CPU、液冷与配电成本

回报

合同价格、计费利用率、折旧与残值

把理论峰值当成现金流

为什么H200和B300显存的价值经常超过读者想象?

以70B参数模型为例,BF16的纯权重约140GB;FP8的纯权重约70GB;4位权重的原始比特量约35GB。现实运行还需量化元数据、运行时缓存、KV Cache、算子工作空间等。对于拥有141GB显存的H200,BF16权重容量看似够用,真正部署却仍会受到其他资源占用约束。B300的更大显存可以提高单卡容纳能力,减少部分模型并行和跨卡通信需求,或者在相同GPU数下增加并发。对于长上下文Agent,容量带来的成本节省不一定体现为单卡每秒算力,而可能体现为更少的网络交换、更少的缓存迁移和更高的服务密度。

KV Cache的工程数量级

假定一个模型采用80层、8个KV头、头维128、BF16缓存,那么每Token的KV Cache理论占用为2(K与V)×80×8×128×2字节,即327,680字节,约320KiB。一个10万Token长上下文需要约31.25GiB;100个同时保持相同长度上下文的会话则约3.05TiB。这还不包含模型权重、片上缓冲和服务系统额外开销。不同模型尤其是GQA、MQA、MLA、KV量化等设计会显著改变这一数字,因此这是解释显存约束的教学算例,不是对DeepSeek或其他具体模型的测量。

十四、推理基准如何读:35倍成本下降和50倍电力效率

英伟达在其公开的推理经济学页面引述SemiAnalysis InferenceX的特定低延迟Agent工作负载,给出HGX H200与GB300 NVL72之间的比较:前者每GPU小时计算成本1.41美元、每GPU每秒90 Token、每兆瓦每秒5.4万Token、每百万Token成本4.20美元;后者分别为2.65美元、6,000 Token、280万Token和0.12美元。这意味着每GPU小时资源成本约增加88%,但每兆瓦Token产量提高超过50倍,单位Token成本降低约35倍。细节是关键:这里比较的是一套英伟达优化的软硬件系统,而非单卡裸性能;厂商的成本假设也不等于普通企业可以拿到的GPU出租价格。

指标

HGX H200

GB300 NVL72

商业意义

每GPU小时计算成本

$1.41

$2.65

设备资源变贵

每GPU每秒Token

90

6,000

产出大幅提高

每兆瓦每秒Token

54,000

2,800,000

电力受限时差距显著

每百万Token计算成本

$4.20

$0.12

单位成本约降低35倍

用上表中的取整数值简单复算,H200为1.41÷(90×3600/1,000,000),约4.35美元/百万Token;GB300为2.65÷(6000×3600/1,000,000),约0.123美元/百万Token。与英伟达展示的4.20美元和0.12美元存在小幅取整差异。因此我们直接保留其官方发布口径,同时说明这组数字并非可供所有工作负载复现的固定能力。

第三方证据的重要性在于补足厂商宣传的边界。SemiAnalysis InferenceX通过相同模型、交互速度和价格假设观察不同系统;CoreWeave等GPU云企业的运行披露则有助于理解真实部署的系统性能与商业条件。但独立性能测试通常仍无法公开全部采购价、融资成本和残值信息。性能测得好,不等于资产IRR一定高;反之,成熟GPU凭借较低二手价格、既有软件和较低折旧基数,也可能在某些推理业务上获得可观现金回报。

软件优化为什么是第六个变量?

NVIDIA开发者资料给出一个具体例子:在GPT-OSS-120B模型上,B200每百万Token成本曾从0.11美元优化到0.02美元,软件优化带来约5倍改善。来源将其归因于TensorRT-LLM、Dynamo等推理软件持续改进。软件能够通过算子融合、调度、批处理、KV管理和量化改善产能。对于购买GPU的企业,芯片参数是初始条件,后续软件与模型迭代决定实际可售产出;同时,市场竞争又会把技术成本优势部分传导到Token售价。因此评估一项投资必须把软硬件共同演进放进生命周期情景,而不是固定五年吞吐与租金不变。

十五、GPU价格与商业模型:裸卡、服务器、租金不能混着算

英伟达数据中心GPU的实际采购价格通常由服务器商、集成商、云平台与终端客户议价形成。裸卡报价不等于可投产服务器价格。一个8卡节点还需CPU、内存、高速网卡、SSD、主板、电源、机箱、集成与测试;72卡整柜还需交换系统、液冷组件、供配电、网络连接与运维服务。若将互联网流传的单卡报价直接乘以72,就会明显低估整柜资本开支。对于EPC投资者,应该区分Chip BOM、Server BOM、Rack/System CAPEX和Facility CAPEX四层,并分别计入税费、运保、质保、备件及资金成本。

市场租赁价格可以观察不同代际的商业定价,但价格指数反映的是多家服务商公开挂牌价。不同地域、可用区、GPU网络规模、是否独占、是否绑定CPU/存储、预付时长、最低租赁量、SLA与合约期限,都会改变实际单价。按需报价往往高于长期包租价格;Spot报价虽低却存在中断与服务不稳定风险,不宜用于保证实时响应的长期客户合同。本文采用2026年11月1日06.ai价格快照作为市场比较的样例,不把它当作全年平均价格。

GPU

按需美元/卡时

720小时理论费用

相对H100价格

H100

3.71

2,671

1.00×

H200

5.12

3,686

1.38×

B200

7.74

5,573

2.09×

B300

9.52

6,854

2.57×

Rubin

暂无可比报价

—

—

一个重要财务关系是:单GPU的计费利用率不是实际GPU忙碌率。运营商可以让GPU完成内部测试或免费体验,设备利用率很高,但可确认收入低;相反,长期包销合同即使客户没有充分调用,运营商也可能按照保底容量收费。对于采用Token结算的服务商,实际收费比例还取决于输入Token、输出Token、缓存命中、折扣及坏账。研究商业回报时,至少要分别填入硬件技术利用率、计费利用率与账单实现率三个数值。

十六、GPU回本与IRR:让读者真正看懂投资现金流

为了避免把特定市场的报价误写成确定成交价,下面建立一个可复算的统一财务模型。以8卡服务器及分摊网络、部署相关支出合计120万美元为假设;每年固定运维支出4万美元;设备持有5年;期末残值为零;不考虑税费、融资、折现中的中期再投资与价格递减。采用GPU按小时对外租赁模式,年收入等于GPU数量×8,760小时×小时租金×计费利用率。年经营现金流为年收入扣除运营费用。项目税前无杠杆IRR按期初负120万美元与其后五年年末现金流计算。

情景

卡时租金

计费利用率

年收入(万美元)

年净现金流(万美元)

简单回本(年)

5年IRR

保守

$4.00

40%

11.2

7.2

16.64

-30.2%

基准

$6.00

65%

27.3

23.3

5.14

-0.9%

进取

$8.00

85%

47.7

43.7

2.75

23.9%

上表最重要的不是某个IRR,而是它的跳变速度。服务器采购支出在第一天发生,但收入依赖未来5年的GPU小时租金与计费利用率。在供给逐步扩张、下一代硬件不断上市的市场里,合同租金很难保证长期不变。即使当前一个高端GPU可以获得较高挂牌价,也不能直接把该价格乘以五年。实际模型至少应该让第2年至第5年的租金逐年变化,并对故障停机、设备替换、备件和残值施加压力测试。

价格每年下降15%,会怎样改变投资结果?

每年租价下降

第1年现金流(万美元)

第5年现金流(万美元)

5年项目IRR

0%

30.3

30.3

8.4%

10%

30.3

18.5

0.2%

20%

30.3

10.1

-8.6%

30%

30.3

4.2

-18.4%

这个压力测试固定第一年每GPU小时价格7美元、计费利用率70%、固定运维4万美元,而未来每年合同实现价格依不同情景下降。它说明GPU项目在现金流上具有显著的价格敏感性。对已经锁定多年保底付款合同的算力供应商,收入下行风险可能较小,但合同对手方信用和性能保证条款又成为新的关键变量。对没有长期客户订单的新建GPU农场,高昂的设备支出很可能转化为对未来租金与利用率的双重押注。

五代GPU为什么不能靠单一IRR排排名?

H100与H200拥有较多存量设备和成熟的软件生态,其优势可能体现在较低设备购入价格与稳定运营;B200和B300拥有更高的理论效率,但实际采购成本更高;Rubin则面临新平台早期量产、交付、运维、软硬件适配和公开成交价不足等约束。五代产品若要公平比较,应在同一模型服务质量要求下计算:每百万Token总成本、单位IT功率每年可售Token、三至五年的设备现金流和中途资产退出价值。在缺少真实采购合同与租赁订单时,公开IRR只能是参数敏感性,不应伪装为已证实的投资收益。



十七、10MW项目的两笔账:EPC工程成本与Token生产经济学

从EPC视角研究10MW AI数据中心,首先明确IT容量还是总市电容量。若10MW为IT设备容量、满载PUE1.30,设施功率为13MW,全年用电1.1388亿kWh。按0.05美元/kWh计算年电费569.4万美元,按0.085美元/kWh则为967.98万美元,差额398.58万美元。如果供电合同只有10MW的总容量,在同样PUE条件下可用于IT设备的功率只有约7.69MW。两个口径的差异直接决定GPU机柜数与经营收入上限,因此不能用“10MW项目”四个字替代电力边界说明。

采用GB300 NVL72最大142kW/柜作为工程上限示例,10MW IT容量即使全部供给计算机柜,理论也只能容纳约70柜、5,040颗GPU。若将90%的IT电力分配给计算机柜,其他留给网络、存储及辅助IT负荷,则计算机柜约63柜、4,536颗GPU。这个结果仅是功率法估算,不保证满足N+1冗余、楼板承重、机柜运输路径、液冷供回水温差、泵组冗余和电气瞬态设计。真正的招标技术条件,应按机柜实际负荷曲线与厂家接口要求确定。

10MW IT情景

数值

计算与工程边界

PUE

1.30

平均满载情景

设施年用电

113,880,000 kWh

10MW×1.3×8760h

电价0.05时年电费

$5.694m

非具体国家实际电价

电价0.085时年电费

$9.6798m

电价敏感性

计算机柜功率占比

90%

供其他IT设备留余量

GB300机柜数

63柜

每柜142kW,向下取整

GPU数量

4,536颗

每柜72颗GPU

进一步研究Token产出。用厂商公开的6,000 Token/s/GPU特定测试值乘以4,536颗GPU,得到理论峰值2,721.6万Token/s;乘以一年31,536,000秒,可得到约858万亿Token。这个数字的最大意义是提醒读者:技术峰值和商业产出之间还有巨大距离。大规模集群不会永远运行同一个基准模型,也不可能始终满负荷维持同一延迟和全部输出计费。将理论峰值直接计入现金流,会系统性高估收入。

Token收入的双重敏感性

可计费产出占峰值

单价$0.5/百万Token(亿美元)

单价$1(亿美元)

单价$2(亿美元)

20%

0.86

1.72

3.43

40%

1.72

3.43

6.87

60%

2.57

5.15

10.30

表中“可计费产出占峰值”综合反映实际模型速度、客户需求、系统可用性、闲置、计费结算与业务类型差异,不能当成GPU利用率的物理测量。收入数字也未扣除模型研发、软件平台、网络、电费、硬件折旧、客户获客、税费和资本支出。因此这是一张帮助投资人判断上限与敏感性的收入情景表,而不是某个数据中心的利润预测。

EPC承包商该签什么合同?

对于擅长供配电、机电安装和国际工程的承包商,最值得优先争取的通常是支付来源清楚、设计边界明确、设备采购责任合理分配的工程合同。机房建筑与机电EPC的收入来自建设期进度付款和竣工交付;GPU采购及Token业务的资本回收则依靠未来经营。二者可以协同,但不应不加区分地捆绑风险。具体招标文件建议锁定IT容量与PUE计算边界、供电接入里程碑、机柜最大热负荷、液冷水质与温差、可靠性等级、设备指定品牌、性能验收方法、工期延误责任和支付保障。特别需要明确是否承担GPU硬件供货责任以及超出业主指定配置的性能担保。


十八、发展趋势:2027—2029年将由哪些指标定义胜负?

未来高端GPU继续升级,预计会沿着更高HBM带宽、更成熟的低精度推理、更高效的GPU互联、动态KV Cache管理和更强的软硬件协同发展。但投资判断不能把路线图当成已交付项目。新架构的产能、实际封装良率、网络与液冷接口、云服务部署速度以及软件适配,都会影响上市后的真实经济性。对投资方,合理的技术战略不是永远抢最贵的第一批硬件,而是把下一代系统导入与现有资产现金流结合起来。

第一个趋势是评估单位从GPU转到整柜、再到数据中心。第二个趋势是推理服务比重上升,商业关键指标由峰值算力向可售Token和尾部延迟迁移。第三个趋势是HBM、网络和液冷成为与GPU同等重要的交付约束。第四个趋势是软件持续“免费”改善旧硬件有效产能,同时新硬件通过价格竞争挤压旧资产。第五个趋势是电力受限市场中的每兆瓦收入与回收速度,将成为设备更新和园区布局的重要依据。

对中国企业,这意味着两条不同的发展路径。一条是算力设备、模型平台及其软件生态的自主完善;另一条是凭借已有电力设备、机电安装、液冷和国际EPC能力参与全球AI基础设施项目。第二条路径的商业机会更加靠近已经形成资金和设备订单的工业建设环节,但必须把当地认证、进口税、工程劳动力、支付条件和缺陷责任纳入实际投标成本。资本可以投资先进GPU,也可以投资变压器与冷却系统,两者的风险期限、利润曲线和竞争门槛并不相同。

十九、对投资人和工程企业的最终判断

如果今天评估一笔GPU投资,至少要回答八个问题:1.客户具体运行什么模型,精度与延迟要求是什么;2.采购的到底是裸卡、8卡服务器还是72卡整柜;3.设备成交价中包含哪些网络、液冷和质保项目;4.可签约的GPU小时价格及合同期限是多少;5.计费利用率与实际Token收费实现率各是多少;6.用电容量和整柜功率限制是否已经解决;7.未来两至三代产品推出后,租金和残值怎样变化;8.用同样资金购买成熟上一代GPU,是否可能取得更好的现金回报。只有把八个问题连起来,才可能形成真正可信的采购决策。

对EPC开发商,还要增加三个问题:项目的电力接入是否已经有可执行里程碑;业主和GPU供应商是否提前确认机电接口;合同付款能否覆盖设备采购和建设期现金流。GPU热潮可以创造大型工程机会,但工程承包商不必因为项目属于AI产业,就去承担其不擅长的GPU租金、Token价格与模型需求风险。能够把电力、机房和液冷准时交付,并控制合同风险,本身就是重要的产业能力。

总体判断是:H100和H200确立了大模型计算的基础能力;B200以FP4和72卡系统改变了推理性能结构;B300围绕长上下文与高并发强化显存;Rubin以HBM4、高速互联和系统协同继续提高Token生产效率。英伟达真正改变的是计算产品的供给曲线。未来单位Token成本可能持续下降,但算力需求、租赁价格、GPU折旧与融资成本会重新分配利润。对于基础设施投资,生产率只是起点,能否签下长期客户并在硬件更新前收回投资,才是最终检验。


结语|从H100到Rubin,谁真正赚到了AI算力的钱?



2026年GTC大会上,黄仁勋将AI数据中心定义为生产Token的工厂。在他的计算经济学中,电力决定生产能力的物理上限,GPU和计算系统决定生产效率,而每瓦Token产出、用户响应速度和每百万Token成本,成为衡量AI工厂竞争力的重要指标。这套逻辑解释了英伟达过去四年的技术路线,也揭示了全球AI基础设施投资正在发生的变化。

从2022年的H100到2026年的Rubin,英伟达五代GPU完成了一轮快速升级。H100采用Hopper架构,配备80GB HBM3显存、3.35TB/s带宽和最高700W功耗,奠定了大模型训练时代的计算基础;H200沿用Hopper架构,将显存提高到141GB、带宽提高到4.8TB/s,分别增长76%和43%,缓解了大模型的数据供给瓶颈;B200采用Blackwell架构,显存达到180GB、带宽8TB/s,引入FP4低精度计算,第五代NVLink双向带宽提高到1.8TB/s;B300进一步将HGX配置的显存扩大至270GB,带宽约7.7TB/s,强化长上下文、注意力计算和高并发推理能力;Rubin则采用HBM4,单GPU显存288GB、HGX规格带宽最高22TB/s,第六代NVLink双向互联带宽最高3.6TB/s,并与Vera CPU及新一代网络系统协同工作。四年时间,单GPU显存扩大3.6倍,带宽提高约6.6倍,AI计算系统也从传统8卡服务器发展到72卡高速互联的液冷整柜。

这些技术进步已经开始改变计算资源的价格结构。2026年11月初,H100、H200、B200和B300的云端平均按需租赁报价分别约为每GPU小时3.70、5.12、7.62和10.03美元,B300的租金约为H100的2.7倍。然而,按照英伟达公布的特定推理测试,H200平台每百万Token计算成本约4.20美元,GB300 NVL72降至0.12美元,相差35倍。更高的硬件价格与更低的单位计算成本同时出现,反映出AI产业正在经历一次明显的生产率提升。

但对投资者来说,生产率提高只是利润形成的起点。GPU的计算能力、Token生产成本、云端租赁价格和最终客户的支付意愿,构成了四个相互联系、又不断变化的市场变量。技术进步提高了设备的生产能力,市场竞争则决定这些能力能够以什么价格出售,最终留下多少现金流。

英伟达正在扩大其系统级技术优势,GPU运营商则需要面对更加激烈的资产回报竞争。 从Hopper到Rubin,英伟达逐步将GPU、HBM、NVLink、CPU、网络和系统软件纳入统一的技术体系,把竞争从单颗芯片推进到整套AI工厂。硬件性能不断提高,也使上一代GPU面临更快的经济性贬值。一套服务器可能拥有五年以上的物理使用寿命,但市场租金和技术竞争力可能在第三年就发生明显变化。云计算公司需要在新设备投入运营之后,尽可能提高计费利用率,并通过长期客户合同缩短资本回收周期。设备越昂贵,收入与技术更新周期之间的匹配就越重要。

Token生产成本快速下降,正在创造新的需求,也可能引发更激烈的价格竞争。 当推理成本下降,企业可以将AI从简单问答扩展到编程Agent、自动化办公、工业监测、多模态分析和连续执行任务的智能系统。过去成本过高的应用,可能因此具备商业可行性。与此同时,模型服务商之间的竞争会将部分技术红利传递给客户。如果单位Token成本下降80%,而市场销售价格下降90%,企业的单位业务利润仍可能受到明显挤压。未来能够持续盈利的模型和云服务企业,需要同时拥有较高的计算效率、稳定的客户需求、较强的服务能力和有效的成本控制体系。

算力竞争还在改变全球基础设施的资源配置。先进GPU可以采购,可靠的电力接入、大规模供电能力、土地、冷却条件和工程交付周期却往往需要数年准备。以一座10MW IT容量的AI数据中心为例,假设PUE为1.30、全年满载运行,其年度总用电量约1.1388亿千瓦时。电价由0.05美元/千瓦时提高至0.085美元/千瓦时,每年电费增加约399万美元。对于100MW甚至更大规模的计算园区,电力价格、能源可靠性和电网接入时间将对长期经营成本产生更大影响。随着GPU计算密度提高,供配电、液冷、网络和系统集成能力,也将直接影响计算设备的投产速度与运行效率。

这给全球AI基础设施竞争增加了一个重要维度:拥有先进GPU的能力,与建设和运营高效AI工厂的能力,正在成为两种相互依赖的产业优势。美国凭借芯片设计、云计算、模型研发和资本市场,占据全球AI产业的关键位置;中国则拥有规模庞大的电力系统、工业制造体系、电力装备供应链和国际工程交付能力。随着全球大型计算园区建设扩张,变压器、开关柜、UPS、液冷、光通信、工业建筑及机电工程需求将持续增长。中国企业有机会通过设备制造、工程设计、国际EPC与系统集成,参与全球AI基础设施投资周期,并逐步提高在高端计算设施建设中的技术与交付能力。

从资本配置看,AI工厂也需要重新区分不同资产的投资逻辑。土地、电力接入、建筑和基础机电设施具有较长的使用寿命,GPU服务器及高速计算网络的技术更新周期则明显更短。模型和Token服务业务又受到客户需求、技术进步及市场定价影响。基础设施业主、GPU云运营商和模型服务商,承担的资本风险不同,能够获得的利润来源也不同。对于EPC企业而言,拥有真实客户、明确电力条件、可靠融资和可执行付款安排的项目,通常更符合工程承包的能力边界;如果进一步参与GPU投资和计算服务经营,则必须具备相应的技术运营、市场销售和资产管理能力。

未来三年,全球算力竞争的评价体系将更加接近成熟工业的经营逻辑。GPU数量仍然重要,峰值浮点算力仍然重要,但投资者还需要知道,一套计算系统每小时能够生产多少满足延迟要求的有效Token,每兆瓦电力可以创造多少收入,设备在不同利用率和租赁价格下能够产生多少自由现金流,以及资本能否在下一代GPU大规模进入市场之前得到合理回收。

从H100到Rubin,英伟达展示了AI计算技术快速提高生产率的能力。技术进步正在推动单位Token成本下降,并为更复杂、更广泛的AI应用创造条件。需求扩张将继续推动芯片、网络、电力和数据中心投资,但这一轮产业增长创造的利润,不会平均分配给每一家参与者。芯片供应商需要保持技术优势,云计算公司需要提高利用率,模型企业需要找到持续付费的客户,基础设施开发商需要控制建设成本与交付周期,资本提供方则需要判断现金流能否覆盖持续增加的投资。

对于全球AI产业,这场竞争正在从技术能力延伸到工业效率和资本效率。谁拥有更先进的计算系统,谁就可能获得更高的生产率;谁掌握更稳定的电力、客户和交付能力,谁就更有机会把生产率转化为持续经营收入;谁能够控制采购成本、设备折旧和资金回收周期,谁才更可能保住最终利润。

未来AI算力竞争的胜负,将越来越取决于三个数字:每兆瓦能够生产多少有效Token,每百万Token能够留下多少利润,以及投入的资本需要多少年才能收回。

从H100、H200、B200、B300走到Rubin,英伟达用了四年时间重新定义AI计算系统的生产效率。接下来,全球资本、云计算企业和基础设施开发商需要共同回答的,是如何让这些快速进步的技术,形成能够长期盈利的产业资产。


附录|权威来源、计算口径与读者复算指南

NVIDIA AI Inference《35x Lower Token Cost with Blackwell》:https://www.nvidia.com/en-us/solutions/ai/inference/ (H200与GB300的35倍Token成本和50倍单位电力性能,指定场景)

NVIDIA Developer《Inside NVIDIA Rubin GPU Architecture》,2026-07-21:https://developer.nvidia.com/blog/inside-nvidia-rubin-gpu-architecture-powering-the-era-of-agentic-ai/ (Rubin 288GB、22TB/s、NVLink 6)

NVIDIA DGX Vera Rubin NVL72 Datasheet:https://resources.nvidia.com/en-us-dgx-systems/dgx-vera-rubin-nvl72-datasheet (72 GPU、36 CPU、整柜容量和带宽,需注明文档版次)

NVIDIA Developer《Inference Performance》:https://developer.nvidia.com/deep-learning-performance-training-inference/ai-inference (推理经济性及软件优化)

06.ai GPU Compute Price Index:https://06.ai/trackers/gpu-compute-price-index/ (2026-11-01价格快照,价格会变动)

IEA《Key Questions on Energy and AI》:https://www.iea.org/reports/key-questions-on-energy-and-ai (数据中心用电与AI能源需求预测)

Lenovo NVIDIA Vera Rubin NVL72 Datasheet,2026-10-27:https://lenovopress.lenovo.com/datasheet/en-us/ds0215-lenovo-nvidia-vera-rubin-nvl72 (系统厂商交叉核对)

财务公式:年租金收入=GPU数量×8760×计费利用率×实际GPU小时租金;年现金流=年租金收入-年度现金运营成本;IRR=使期初CAPEX及各年现金流折现后净现值为零的折现率;年电费=IT功率×PUE×8760小时×综合电价。

研究边界:云平台按需挂牌价≠服务器成交价;厂商Token性能≠所有模型性能;计算成本≠客户API销售价格;静态收入敏感性≠可融资商业预测。

NVIDIA H100/H200/HGX官方技术资料:https://www.nvidia.com/en-us/data-center/

NVIDIA Inference Performance,H200与GB300 Token成本测试:https://developer.nvidia.com/deep-learning-performance-training-inference/ai-inference

06.ai GPU Compute Price Index,2026-11-01:https://06.ai/trackers/gpu-compute-price-index/

NVIDIA Vera Rubin NVL72官方产品与架构资料:https://www.nvidia.com/en-us/data-center/

NVIDIA GTC 2026 黄仁勋主题演讲官方资料:https://www.nvidia.com/gtc/keynote/

注:本文厂商基准、云市场挂牌价格、自建设备收益模型和10MW工程测算各自采用独立口径。假设场景均明确标示,不构成供应商合同报价或具体项目的收益承诺。

点赞(1) 打赏

评论列表 共有 0 条评论

暂无评论
立即
投稿

微信公众账号

微信扫一扫加关注

发表
评论
返回
顶部