行业分析探讨AI机架密度实际限制:供电、冷却与故障风险
AI Rack Density’s Real Limits: Power, Cooling, Failure Risk
多家行业机构与厂商代表分析指出,AI机架密度的实际上限由散热能力、芯片功耗、设施安全供电能力共同决定。不同机构分别披露了2026年模态机架密度、各冷却方式适用功率区间、800VDC相关产品进展等信息,同时对未来3至5年高密度AI机架的发展形态给出不同判断。
数十年来,每一代新硬件都在更小的空间内集成了更强的计算能力。人工智能将这一趋势加速到了数据中心前所未见的水平,运营商们正试图在AI工厂部署中让每个机架都发挥出最大性能。
这一变化十分显著。两年前还显得极端的机架如今已稀松平常,下一次升级也已提上建设日程。数据说明了一切。一个常用的基准是“模态机架密度”,即每机架最常上报的功耗。根据Uptime Institute第16届年度全球数据中心调查,2026年这一数值达到了11千瓦,高于2025年的9千瓦。11千瓦的配置描述的是典型的企业级服务器机房——也就是如今大多数数据中心里随处可见的那种——而非AI训练集群。
AI机架的功耗等级则完全不同。根据Nvidia的NVL72 AI工厂参考架构,2025年至2026年初AI训练集群的核心Nvidia GB300 NVL72每机架最高需要142千瓦。Nvidia的最新平台Vera Rubin NVL72于2026年6月全面投产,计划于今年秋季向云服务提供商发货。尽管Nvidia尚未公布官方的机架功耗数值,但行业媒体的供应链报道指出其功耗在190千瓦至230千瓦之间。在此之后,Nvidia的Rubin Ultra NVL576“Kyber”机架在2027年下半年的规格已被定为约600千瓦。
相关内容:下一代AI基础设施设计从效率着手
那么,真正限制密度的因素究竟是什么?有三个问题决定了密度的上限:机架的散热能力、芯片的功耗,以及设施能够安全提供的电力。
问题不在于芯片数量,也不是更大的风扇就能解决的。eRacks Systems创始人兼首席技术官Joseph Wolff向《Data Center Knowledge》表示:“对于密度受限的原因,最大的误解是认为它受限于每个机箱中的GPU数量,或是认为这是一个可以用更大风扇解决的散热问题。”
风冷已达极限,液冷成为主流
更强的计算意味着更多热量,多年来,散热一直是密度的硬性限制。随着冷却技术的进步,这一限制也在不断变化。
风冷逐渐变得不切实际
根据Uptime Institute的说法,当每机架功耗超过约50千瓦,风冷就会变得不切实际。超过这一阈值后,风扇根本无法输送足够的空气来应对热负荷。
芯片级直接液冷现已成为标准
根据施耐德电气的数据,通过芯片上的冷板输送液体的冷却方式如今可应对每机架100至150千瓦的功耗,并已成为主流液冷方案,截至2026年占据55%的市场份额。
两相浸液冷却正在复苏,并未消亡
曾被视为最终方案的两相浸没冷却,在PFAS相关限制切断冷却液供应后发展受阻,其普及度至今未能完全恢复。不过一款替代流体已于2026年初通过认证,但相关监管结果要到2027年才能最终敲定。IBM多厂商支持服务副总裁Omkar Nimbalkar在接受Data Center Knowledge采访时表示:“微流控技术我现在还是会称之为‘规划阶段的技术’。它的原理已经得到验证,但距离大规模落地还有几年时间。”
下一步突破发生在芯片内部
2025年9月,微软与瑞士初创企业Corintis公布了实验室测试结果,显示直接在芯片内部蚀刻出微通道的散热效率最高可达标准冷板的三倍。
真正的上限并非由冷却能力决定,而是供电系统
热物理并非唯一的制约因素。供电系统的约束同样严苛,最终决定性能上限的也并非芯片规格。
“人们习惯用芯片规格来衡量算力密度,但实际上它受电气工程设计和故障预案的限制。”Nimbalkar说道。
传统54 VDC供电方案遭遇铜材瓶颈
传统54 VDC配电方案在单机架功率约200 kW以上时就会遇到硬性瓶颈:承载大电流所需的铜缆会变得过粗、过重,难以施工部署。
相关内容:房产税:AI数据中心忽视的价值驱动因素
冗余设计会占用部分容量
Nimbalkar指出,采用双冗余配置的典型配电单元(PDU)可承载约20 kW功率,而单台服务器的功耗最高可达6 kW。他表示:“设计的核心问题从来不是你能采购多少块GPU,而是在某一路电源发生故障时,你还能安全运行多少块GPU。”
最终决定性能上限的是供电线路,而非芯片本身
芯片厂商在设计时已经考虑到这些限制,会推出不同功耗版本的同型号GPU,以适配实际部署的约束条件。Wolff表示:“真正的上限是单台服务器的供电和散热预算,而这一预算是由GPU本身决定的。英伟达推出的96GB RTX PRO 6000 Blackwell既有600W功耗版本,也有300W的Max-Q版本——之所以推出后者,是因为在一个4U机箱中塞入8块600W显卡会产生5kW级的散热需求,大多数风冷机房根本无法满足其供电或排热要求。”
相关改进方案正从试点阶段转向标准化落地
目前已有多项举措正在推进,旨在弥合单机架功耗需求与数据中心基础设施承载能力之间的差距。
高压直流配电正走出试点阶段
Vera Rubin NVL72 已经标配800 VDC供电。这一转型已不再局限于试点项目:维谛、施耐德电气、伊顿和台达都计划在2026年下半年推出商用800 VDC产品,台湾的富士康高雄1号40 MW数据中心也在按照这一标准建设。但硬件的普及并不等同于技术的全面落地。Flex嵌入式与关键电源业务总裁Chris Butler在接受Data Center Knowledge采访时表示:“说到底,我们是在要求企业在18到24个月的时间里消化整整一代人才能完成的技术变革。”
供电系统正与计算机架逐步解耦
开放计算项目的Mount Diablo项目于2026年3月推出了最终定稿的0.7.0版规范;微软与Meta在2026年7月展示了基于该规范打造的可运行硬件。通过将供电与计算分离,设施可以独立于所供电的机架扩展电力容量。
现场及离网发电正获得越来越多的关注
更多运营商选择自建电力容量,而非等待公用事业公司的排期。纸面层面的园区供电能力并不能保证你能将电力可靠地输送到单个机架。
Axe Compute首席执行官Christopher Miglino在接受《Data Center Knowledge》采访时表示:“一旦你开始以这样的密度运行,配电和制冷就必须协同推进,所以我更关注的数字未必是一个园区纸面拥有多少兆瓦电力,Data Center Knowledge。而是你实际能够输送、制冷并可靠运行的电力有多少。”
三到五年后行业的上限可能处于何种水平
未来三到五年内,散热、供电、故障风险和成本各自都存在尚未解决的问题。这四个要素的共同走向将决定“常规”形态的定义。
电网而非机架将成为决定性因素
电力供应将起到决定性作用。根据劳伦斯伯克利国家实验室的《排队待建报告》,截至2025年底,美国有超过2060吉瓦的发电和储能项目在并网队列中等待审批。
Miglino表示:“现场发电的可行性在一定程度上取决于具体项目,但它正成为超大规模AI园区讨论中非常重要的一部分,因为在许多市场,制约因素并非需求或GPU的获取渠道——而是你实际能以多快的速度从电网获得充足的电力。”
随着机架密度提升,故障的代价也随之升高
随着密度攀升,一次单一故障所影响的计算资源比过去更多。这对故障检测和优雅降级的能力提出了更高要求。
Nimbalkar表示:“更明智的做法是内置固件级故障检测,能够在数秒内降低机架的运行功率,这样你就可以实现比保守静态数值常规允许的更高密度运行。”
到2028年,常规高密度机架的功率很可能超过100千瓦
最有可能的默认配置是单机架100千瓦或更高。Nimbalkar表示:“2028年的典型高密度AI机架很可能是功率超过100千瓦的部署,标配直接液冷、400伏供电,故障处理逻辑内置在固件中,而非事后追加的附加功能。”
Miglino也预期会达到同样的门槛,而领先的前沿配置将远超这一数值。
但Wolff预计市场会出现分化:大多数企业仍会采用风冷方案,而少数引人注目的机架将远远超过100千瓦。Wolff表示:“大多数企业实际部署的典型高密度AI机架,是采用风冷的4U节点,每个节点搭载八块300瓦级功率的GPU,单机箱功率约4千瓦,在普通208伏供电下,每个机架部署三到四个这样的节点。”
来源:Data Center Knowledge · datacenterknowledge.com