AI推理正在改变数据中心设计要求

AI推理负载因低延迟、流量波动、模型规模和部署位置不同，对硬件、电力、冷却和容量规划提出区别于大型训练集群的要求。Uptime Institute 2026年调查显示更多运营商报告峰值机架密度达30 kW或更高，NVIDIA GB200 NVL72机架满载约消耗120 kW；高密度GPU部署需direct-to-chip液冷。