伯恩斯坦拆解AI基础设施：海外研选深度解析

伯恩斯坦于10月5日发布的一份研报指出，基于不同的AI加速器架构，建设1GW数据中心所需的资本开支大约在346亿至395亿美元之间。其中，英伟达Vera Rubin架构的建设成本位居最高，而OpenAI自研的ASIC架构Jalapeno则相对最低。

虽然各类AI芯片与服务器系统在价格上存在明显差异，但若换算为相同的供电规模，数据中心整体建设成本的差距就会大幅收窄。

伯恩斯坦将其对英伟达Rubin NVL72单机柜成本的预期从此前的910万美元显著下调至752万美元，降幅约为17%，这主要体现的是对HBM价格以及NAND存储容量预期的修正。

研报还强调，AI数据中心面临的主要经济压力并非电费，而是庞大的资本开支以及由此产生的折旧费用。随着英伟达Rubin和定制ASIC推动算力供给增长，AI基础设施的成本结构与投资回报已成为业界关注的核心议题。

1GW数据中心投资最高接近400亿美元

伯恩斯坦综合行业专家访谈、供应链调研、企业公开披露以及第三方数据，对英伟达、AMD、谷歌和OpenAI的主要AI加速器架构进行了成本对比。

研究团队估算，英伟达GB200 NVL72单机柜成本约为413万美元，而新一代Vera Rubin NVL72则达到752万美元。AMD MI455X Helios机柜成本约为733万美元，与Rubin接近。

（不同AI芯片架构的系统成本构成）

相较之下，谷歌TPU v7 Ironwood单套系统成本约为269万美元，采用双机柜设计的OpenAI Jalapeno系统成本则约为503万美元。

然而，单套系统的价格并不能直接等同于数据中心整体建设成本，原因在于不同架构在功耗和硬件配置方面差异较大。

依据伯恩斯坦的模型，建设1GW数据中心时，采用英伟达Rubin架构约需395亿美元，AMD Helios约357亿美元，谷歌TPU v7约390亿美元，OpenAI Jalapeno约346亿美元，英伟达GB200则约365亿美元。

一个值得注意的现象是，谷歌TPU单套系统成本不到Rubin的40%，但两者每GW数据中心的总投资仅相差约5亿美元。这背后的原因在于不同系统的功率密度差异较大。

伯恩斯坦估计，Rubin NVL72单机柜功耗约为220千瓦，TPU v7单套系统约为80千瓦。在计入配套基础设施的用电需求后，每GW数据中心大约需要3557套Rubin系统，而TPU系统则需要约9783套。

最终，两种架构每GW对应的计算系统硬件投资分别约为268亿美元和263亿美元，差距十分有限。

除此之外，数据中心还需要大量资金用于冷却、电力及其他基础设施的建设。

伯恩斯坦估算，对于英伟达Rubin、AMD、谷歌TPU和OpenAI架构而言，每GW数据中心的机柜外基础设施成本约为127亿美元，其中土地及建筑约45亿美元，电力设施约32亿美元，冷却设施约18亿美元，其他机电设施约32亿美元。

这一估算的前提假设是，AI计算机柜用电约占数据中心总负荷的78%，对应1.15的电能使用效率（PUE），以及服务器机柜占全部IT设备功耗90%。

上述结果说明，尽管自研ASIC可能压低芯片和单套服务器的价格，但能否真正显著降低整个数据中心的建设成本，还取决于功率密度、网络架构以及所需硬件数量。

需要指出的是，这些数据衡量的是相同供电规模下的资本开支，并不代表不同架构能够提供相同的AI计算性能。

Rubin成本预期下调17%

伯恩斯坦最新估算显示，Rubin NVL72单机柜成本约为752万美元，低于此前预测的910万美元，也与供应链流传的700万至800万美元价格区间基本吻合。

此次调整主要源于五个方面：下调NAND存储容量假设、降低HBM4价格预期、修正网络设备成本、调整冷却和供电系统成本，以及更新DRAM和NAND价格。

其中，HBM价格预期的变化尤为明显。伯恩斯坦将HBM4价格假设从此前的每GB 48美元下调至30.6美元，降幅约36%。

分析师认为，供应链反馈弱于此前预期，同时市场对HBM利润率最终与传统DRAM趋同的判断信心有所减弱。

不过，伯恩斯坦仍预计英伟达能够将部分内存成本转嫁给终端客户，并对HBM收取约10%的溢价。

按照每机柜20.7TB HBM4容量计算，Rubin的HBM成本约为69.7万美元。

GPU本身依然是最大的成本来源。伯恩斯坦估计，Rubin GPU单价约为5.5万美元，72颗GPU合计396万美元，占整套机柜成本约53%。

此外，伯恩斯坦大幅下调了对Rubin内部NAND存储容量的估算。

此前模型假设机柜内部NAND容量可能达到约2.2PB，并计入约1.2PB外部ICMS存储。最新模型则将内部NAND容量下调至576TB，同时将外部ICMS以及未来的CMX存储排除在机柜物料成本之外。

这一变化表明，Rubin成本预测的下降不仅反映了硬件价格变化，也与存储配置及成本统计范围的调整有关。

值得注意的是，传统内存价格反而有所上涨。伯恩斯坦将DRAM价格假设从每GB 14.85美元上调至16.45美元，TLC NAND价格从0.37美元上调至0.38美元。

据此估算，Rubin每机柜CPU侧DRAM成本约为88.8万美元，直接连接NAND存储约22.2万美元。

伯恩斯坦提醒，当前内存价格波动较大，相关成本模型可能很快需要再次调整。

除计算和存储外，Rubin网络设备成本约为117万美元，其中Scale-up网络约59万美元，Scale-out网络约50万美元，前端网络约8万美元。

随着系统功率密度提高，冷却系统成本也明显攀升。伯恩斯坦估计，Rubin单机柜冷却成本约为10.2万美元，较GB200的5.1万美元翻了一倍。

AMD GPU价格更低，但机柜总成本与Rubin接近

相比之下，AMD Helios虽然单机柜成本与Rubin接近，但内部结构存在明显差异。

伯恩斯坦估计，AMD MI455X GPU不含HBM的单价约为3.5万美元，低于Rubin的5.5万美元。72颗GPU合计约252万美元，比Rubin低144万美元。

分析师认为，部分差异可能源于AMD较低的GPU利润率。

但AMD在其他硬件上的投入更高。

Helios每机柜配置约31.1TB HBM，高于Rubin的20.7TB，对应HBM成本约95万美元。

其CPU侧DRAM容量估计达到74TB，成本约121万美元，也明显高于Rubin。

网络部分的差异同样突出。AMD Helios每机柜网络设备成本约147万美元，高于Rubin的117万美元。

伯恩斯坦指出，AMD采用基于以太网的UALink互联方案，部分Scale-up交换设备由Celestica提供，相关交换机成本可能低于英伟达的专有方案。

但AMD每颗GPU最多配置三个网络接口控制器，增加了Scale-out交换机、网络接口及光收发器的需求，抵消了部分成本优势。

尽管AMD的GPU成本比Rubin低约144万美元，但其CPU、DRAM、HBM、网络设备及NAND存储成本更高，抵消了大部分价格优势。最终，AMD Helio