产业透视｜数据中心系列①：数据中心到底长什么样？

小昭 2026-08-25 14:58 广东

一文看懂数据中心的组成：电、冷、算、网

写 在 前 面

AI浪潮之下，“数据中心”“AI数据中心”“GW级算力园区”正在越来越频繁地出现在产业新闻和企业投资计划中。但对于非专业读者而言，数据中心往往仍然是一个比较抽象的概念：它到底长什么样？里面装了什么？为什么要消耗如此大量的电？为什么AI又带火了液冷、电力设备和高速网络？

我们计划通过“数据中心系列”，从基础到产业，逐步回答几个核心问题：

数据中心是什么、长什么样；由哪些设备和系统组成；建设一座数据中心到底要花多少钱；全球数据中心主要建在哪里、由谁建设；以及AI时代的数据中心正在发生哪些变化。

第一篇先从最基础的“形态”讲起。

我们先走进一座数据中心，看清楚从园区、机房、机柜到GPU究竟是什么关系，以及支撑这些GPU运行的“电、冷、算、网”四套系统分别在做什么。

摘    要

数据中心（Data Center）可以理解为一座“把计算机工业化、集中化之后形成的数字工厂”。

普通电脑里有CPU、内存、硬盘、电源和风扇；数据中心则把这一整套体系放大到几千甚至几十万台服务器，并为它们配套供电、制冷、网络、消防和运维系统，使大量计算设备能够持续、稳定地运行。

进入AI时代，这座“数字工厂”正在快速变化。

过去，人们建设数据中心更多关注土地、机房和建设成本；随着GPU功率密度和AI集群规模持续提高，一个大型AI数据中心能否真正落地，越来越取决于三个现实问题：

有没有足够的电？

能不能把巨大的热量散出去？

能不能让成千上万乃至数万颗GPU高速连接？

因此，理解AI基础设施，第一步不是先研究GPU，而是先看懂一座数据中心究竟长什么样、由什么组成，以及MW/GW这些规模指标到底意味着什么。

一、数据中心长什么样？

从外部看，大型数据中心往往不像办公楼，更像一座体量巨大的无窗工业厂房或仓库。

但与普通厂房不同的是，数据中心周边通常还会配置大量基础设施，包括变电站、柴油或燃气备用发电机、冷却塔或干冷器，以及密集的电缆和管路。

这些设备共同服务于一个核心目标：

让机房内部成千上万台服务器能够24小时持续、稳定地运行。

换句话说，服务器虽然是真正执行计算任务的设备，但服务器本身只是数据中心的一部分。为了让服务器工作，外围还需要一整套供电、制冷、网络和安全保障系统。

【数据中心整体外观及结构示意】

进入数据中心内部，会看到一个个数据大厅（Data Hall），大厅内整齐排列着一排排黑色机柜（Rack）。

一个典型机柜大约2米高，服务器、GPU服务器、存储设备和网络交换机等设备像“抽屉”一样安装在机柜中。

因此，从空间层级上，可以把一座数据中心简单理解为：

数据中心园区 → 数据大厅（Data Hall）→ 机柜（Rack）→ 服务器 / GPU

真正执行AI计算任务的GPU，其实位于这套庞大基础设施的最内层。

GPU要正常运行，前端需要持续、稳定的电力输入，中间需要高速网络连接，运行过程中产生的大量热量又必须被及时带走。

这也就引出了数据中心最核心的几套基础设施系统。

AI正在改变机柜的功率密度

传统数据中心的机柜功率密度总体并不高。Uptime Institute 2025年的调查显示，10—30kW/Rack机柜的采用正在增加，但拥有30kW以上高密度机柜的数据中心仍然相对有限。

AI正在快速改变这一情况。

以NVIDIA GB200 NVL72为例，一个完整机柜包含72颗Blackwell GPU、36颗Grace CPU、18个计算托盘以及NVLink交换系统，并采用液冷进行散热。

整柜满载功率约达到：

120kW/Rack。

而Schneider Electric面向GB200 NVL72设计的数据中心基础设施方案，机柜级供电和冷却能力可按照约132kW/Rack进行设计。

这两个数字需要区分：

约120kW是GB200 NVL72整柜满载功率；132kW则更接近基础设施需要预留和支持的设计容量。

为了建立直观概念，可以做一个大致比较：

注：上述区间用于帮助理解功率密度变化，不属于严格的行业分类标准，实际功率会因服务器配置、芯片型号和基础设施设计而有所差异。

但趋势非常清楚：

AI正在把单机柜功率从过去的个位数或十几kW，推向100kW甚至更高。

这意味着，一个高密度AI机柜的功率，可能已经相当于过去数个甚至十几个传统服务器机柜。而功率密度提升之后，原来的供电和散热方式都必须随之升级。

这也是理解AI数据中心变化最重要的一条主线：

GPU功率提高 → 单机柜功率提高 → 电力需求提高 + 单位空间发热量提高 → 供电与冷却基础设施同步升级。

二、数据中心到底由什么组成？

如果把一座复杂的数据中心拆开，本质上可以理解为四套核心系统：

电 + 冷 + 算 + 网。

也就是：电力系统、冷却系统、计算系统和网络系统。

除此之外，还有机房建筑、消防系统，以及BMS、DCIM、EPMS等管理和监控系统。

这些系统并不是彼此独立的，而是围绕服务器形成一套完整的运行闭环。最简单的逻辑可以理解为：

① 电力系统负责把稳定的电送到服务器；

② 计算系统负责执行计算任务；

③ 网络系统负责让服务器和GPU高速交换数据；

④ 冷却系统负责把计算产生的热量持续带走。

如果把数据中心比作一座工厂：

服务器和GPU是生产机器，网络是高速公路，电力是能源系统，冷却则是散热系统。

四者缺一不可。

1. 电力系统：先把电稳定地送进机柜

数据中心并不是简单地从电网拉一根电线接到服务器上。

外部电力进入数据中心以后，通常需要经过一系列变电、配电、保护和备用环节，大致可以理解为：

电网 → 变电站/变压器 → 开关柜 → UPS → Busway/PDU → 机柜 → Server/GPU

其中，变压器负责将电压调整到数据中心所需要的等级；Switchgear开关设备负责电路控制、切换和保护；UPS（不间断电源）则负责在外部电网短暂中断时瞬间供电，避免服务器直接掉电。

如果外部停电持续时间较长，柴油或燃气备用发电机随后启动并接管负载。

因此，在大型数据中心园区旁，经常可以看到成排布置的大型发电机。

数据中心与普通工业设施一个很大的区别就在于：

服务器基本不能随意停机。

普通工厂突然停电几秒，可能只是生产短暂停顿；但对于银行交易、云计算、搜索服务、AI推理等业务而言，服务器掉电可能直接造成服务中断甚至数据异常。

所以，数据中心真正需要的并不只是普通意义上的“有电可用”，而是一整套：

高稳定、高冗余、可持续运行的供电体系。

2. 计算系统：数据中心真正的“生产设备”

数据中心真正执行计算任务的核心设备主要包括GPU、CPU、服务器和存储设备。

其中，GPU主要承担AI模型训练和推理等高度并行的计算任务，是当前AI数据中心最重要的计算设备之一；CPU主要负责通用计算和系统控制；服务器（Server）则将GPU、CPU、内存、网卡等部件集成为完整的计算节点。

如果将数据中心比作一座工厂：

GPU和服务器就是其中真正执行生产任务的“机器”。

存储系统则更像“仓库”，负责保存模型、训练数据以及各种业务数据。

目前主要计算芯片企业包括NVIDIA、AMD、Intel等；服务器厂商则包括Dell、HPE、Supermicro、联想、浪潮等。

3. 网络系统：让成千上万颗GPU连在一起

AI计算并不是一颗GPU单独完成的。

大规模模型训练通常需要数千乃至数万颗GPU并行工作，GPU之间必须持续交换海量数据。如果网络速度跟不上，昂贵的GPU就会花大量时间等待数据，整体计算效率反而下降。

因此，AI数据中心内部还需要由交换机、NIC（网卡）/DPU（数据处理器）、光模块和光纤共同组成一套高速通信网络。

简单理解：

NIC/DPU负责让服务器接入网络；

交换机（Switch）负责组织和调度服务器之间的数据通信；

光模块和光纤负责把海量数据高速传输出去。

如果把计算设备比作工厂里的生产机器，那么网络系统就是连接这些机器的“高速公路”。

随着GPU集群规模不断扩大，数据中心网络也正在从传统通用网络向面向AI优化的高速Ethernet和InfiniBand等架构演进，对带宽、时延和网络稳定性的要求越来越高。

因此，AI带来的基础设施需求并不仅仅体现在GPU数量增加，也同时推动着交换机、网卡、光模块和光纤等网络设备升级。

4. 冷却系统：把GPU产生的热量带走

计算设备消耗的电力，最终几乎都会转化成热量。

在传统低密度数据中心中，一个机柜可能只有5—10kW，通过机房空调和空气循环即可完成散热。但当一个AI机柜功率提升到100kW以上后，单位空间内产生的热量大幅增加，仅依靠空气已经越来越难有效散热。

因此，AI数据中心正在推动冷却系统从传统风冷逐步向液冷演进。

【风冷数据中心冷却结构】

液冷系统的基本逻辑：

液冷的核心变化，是把“空气搬运热量”改成“液体直接从芯片附近搬运热量”。在直接液冷（Direct-to-Chip）方案中，冷板直接贴近GPU、CPU等高发热芯片，冷却液流经冷板后吸收热量，再通过Manifold汇集至CDU。CDU完成IT侧冷却液与数据中心设施侧冷却水之间的换热，热量最终再通过Chiller、Dry Cooler或冷却塔排向室外。由于液体的传热能力远高于空气，这种方案更适合100kW以上的高密度AI机柜。Schneider指出，在80–100kW/Rack以上的高密度AI场景中，传统空气冷却开始面临明显挑战。

【AI液冷机柜实景】

这是富士康/Ingrasys展示的 NVIDIA GB200液冷机柜实物。能直接看到服务器一层层装在机柜里，同时有液冷管路接到服务器上。与传统服务器机柜相比，高密度AI机柜除电力和网络连接外，还增加了明显的液冷供回水管路。冷却液被输送至每台服务器内部，为GPU、CPU等高发热芯片散热。

【液冷服务器内部：冷板直接贴近GPU/CPU散热】

这是服务器抽出来后的内部实拍，可以清楚看到几个铜色的冷板Cold Plate直接压在CPU/GPU等高发热芯片上，再通过黑色软管输送冷却液。Direct-to-Chip液冷的本质就是冷板直接从CPU/GPU取热，再把热量通过冷却液送走。

【液冷原理参考图】

GPU/CPU发热→ Cold Plate 冷板直接贴在芯片上吸热→ 冷却液带着热量流出服务器→ 分水器Manifold汇集各服务器的冷却液→ 液冷机柜CDU把IT侧冷却液的热量交换给设施侧冷却水→ Chiller / Dry Cooler最终把热量排到室外→ 降温后的冷却液重新回到GPU，循环运行。

这也是为什么随着AI服务器功率密度提升，CDU、冷板、泵、快速接头、Manifold和Chiller等设备正在成为数据中心产业链中的重要增量环节。

数据中心核心设备一览

从整体产业链看，数据中心内部主要设备可以概括如下：

所以从产业链角度看，数据中心从来不是一个单一行业。

一座数据中心背后实际上同时连接着：

半导体、服务器、通信设备、电气设备、储能与备用电源、制冷与液冷、建筑工程以及数字化管理软件等多个产业。

而AI正在改变的，并不只是最里面那颗GPU。当GPU性能和功率不断提升时，从机柜、电力、网络到冷却系统，都必须围绕它重新设计。这也是为什么今天谈AI基础设施，已经不能只看“买了多少GPU”，还要进一步看：

这些GPU被装在哪里？需要多少电？如何散热？怎样互联？

只有把这些问题放在一起，才能真正理解一座AI数据中心。

到这里，我们基本看清了一座数据中心长什么样，以及里面究竟有什么。

但理解它的形态之后，下一个很自然的问题就是：这样一座庞大的“数字工厂”，到底要花多少钱？

下一篇：一座数据中心，到底要花多少钱？

为什么市场上有时说数据中心建设成本约为1000万美元/MW，有时又会看到AI数据中心高达3000万—4000万美元/MW？

钱究竟花在了哪里？GPU和服务器占多少？电力、UPS、备用发电机和冷却系统又占多少？为什么AI时代，电力和液冷正在成为越来越重要的资本开支方向？

下一篇《数据中心系列②》，我们从“钱”出发，拆开一座数据中心的成本结构。

之后，我们还会继续沿着全球格局—主要建设者—区域资源禀赋—产业趋势展开，逐步拼出全球数据中心产业的完整图景。

跳转微信打开