深度｜智能的“分野”：来自数据中心行业的非线性思考

郭嘉 2026-11-04 18:27 北京

数据中心行业正在分化成几种规则完全不同的生意

↑免费申领大会门票↑

·B200跑 MiniMax-M2.5，生产能力可达3M tokens/s/MW，折合推理场景每token消耗约 0.33J能量，每百万token约耗电0.093度，电费约0.05元（按每度电0.54元计），仅占每百万 token 总成本（约0.065美元）的11%；

·按厂商数据，H100机房每MW产出的token，只有GB300机房的2%；

·GB200 NVL72将72张GPU放入同一NVLink域，比H100每百万token成本降低约75%；

·集群互联光纤的所有路径须控制在500米以内，超出就要把模块化建筑排成H形；

·1MW机柜的供电电流，54V下约18,519A，800V下仅约1,250A，线损与电流平方成正比，升压收益远超线性；

·10万GPU的训练负载在100MW与20MW之间毫秒级摆动，每毫秒爬升数十兆瓦，电网侧只有电池能缓冲，冷却侧CDU须在500毫秒内响应；

·一台大型变压器重逾45吨，制造需要80-120周，核心组件铁芯所用的取向电工钢（GOES）全球只有少数几家钢厂能产；

·100MW集群总资本12亿美元，IDC基建部分占1.6亿，GPU计算节点占10.4亿，但投产晚6个月，项目净现值从3.4亿美元跌到3,500万美元，缩水近90%；

·……

2026年接近尾声。这一轮由科技大厂资本支出引发的AI和算力浪潮，在全球尤其是中美市场推动了一场罕见的超级算力基建周期。而今，这个周期来到了一个关键转折。对数据中心行业而言，机会巨大，挑战也前所未有，而二者都呈现着一种动态的非线性变化：GPU集群、表后发电、高密度液冷、SST、800V、绿电直连、虚拟电厂、微电网、PPA、GW级、NeoCloud、光互连、预制化、模块化、储能……各种产业热点层出不穷。

这些变化背后，是一场正在发生的智能“分野”：智能负载正在分化为训练与推理、集中与近端、时延敏感与不敏感等不同形态，数据中心行业也随之被电力和速度拉开，分化成几种规则完全不同的生意。

智能分野

如今，互联网时代的零边际成本逻辑和分发模式在Agent智能时代被彻底颠覆，从过去被隐藏在底层的代码、抽象的算力和分散在各地、少有人关注的数据中心，到现在海量的代码大规模交互、24小时运转发热的GPU、大批拔地而起的数据中心，智能时代，需要规模化的智能输出，也就需要符合工业生产的底层逻辑。

这改变了什么呢？

目前这个世界上每次额外生产任何一个token，都需要更多的GPU、更多的能源、更多的机房、更多的冷却、更多的带宽……，都会产生更多的热量、消耗更多的能源、占据更大的面积、整合更多的设备、设计更加复杂的结构、付出更多的成本。相当于token生产变成了一套完整的工业级的动态系统工程。

具体来看，Token究竟是如何影响算力的呢？

以Llama 3 70B为例，词表有128,256个token，每个token对应一个由 8,192个浮点数（右侧表中的数字）组成的嵌入向量（Embedding Vector），形成的整张词表有128,256行×8,192列。

大模型的训练和推理都是从这张词表开始的。以推理为例，用户的每一个请求，先被切成一个个token，每个token到词表里取出自己那一行的8,192个数，然后依次穿过80层神经网络。每一层都要做7次大规模矩阵乘法，80层下来，就是560次大矩阵运算。最后为词表中全部 128,256 个 token 打分，选出下一个 token，再回到词表，循环往复。模型每生成一个token，就要把约705.5亿个参数完整用一遍，完成约1,411亿次浮点运算；光是BF16精度的权重就有约141GB，一张80GB显存的GPU根本装不下，智能由此直接变成了对算力的需求。

算力沸腾

这一轮变化的起点，正是推理需求的全面爆发，当Agent把token的消耗从线性推向非线性的指数级，给原本线性的算力负载带来了更多的工程痛点，这类负载需要7×24小时不间断运行的智能推理能力，而且几乎每三个月，数据中心处理的token都在进一步流向更大、更长、更持续的负载：万亿参数级的 MoE模型、动辄数十万token的长上下文，以及7×24小时运行的智能体。

对数据中心来说，这意味着推理不再是偶发的请求，而是像工厂流水线一样全天候运转的生产负载，token本身也变成了可计量、可定价的商品，大量数据中心也开始从出租空间的机房，变成按token计产能的Token工厂，算力由此开始“沸腾”。

但问题是，模型可以一夜迭代，电网、土地和机房以及大量设备却要数月甚至数年才能建成，物理世界的扩张速度，远远追不上数字世界的算力需求。

一个 token 从词表出发，最终落到了实实在在的物理设备上。8张GPU组成一台约10 kW的服务器，但更大的模型、更长的推理，需要更多GPU紧密协同。

一方面，MoE（混合专家）模型每个token只激活一部分参数，计算效率可提升 3–5倍，代价是通信变得更加频繁和复杂：每个token都可能被路由到任意一张GPU上的专家，生成时所有GPU之间要不断互相交换数据。另一方面，长上下文让KV缓存和模型权重争抢同一块显存（HBM），显存越紧张，能同时服务的请求就越少，单位token的成本差距可达约 4 倍。

跨服务器的网络太慢，满足不了这种通信强度，只能用高速互联把72张GPU 紧紧连在一个机柜里，超节点由此应运而生。以英伟达GB200 NVL72为代表的单柜超节点，把72张GPU装进一个机柜，单柜功率超过100kW。密度上去了，问题也随之从算力转成了热和电：热量只能靠液冷带走，供电的电流和电压（800V高压直流）也要重新设计。再把数千个这样的机柜放在一起，就是一座GW级的数据中心。这时决定产能的，不只是能买到多少GPU，还有电拿不拿得到、多快拿到。芯片和电力，同时成了Token工厂的产能上限。

于是，表后发电、储能、微电网和预制化，成为绕过电网和时间约束的手段。但约束越是被绕过，密度和热量就越高，价值也就越集中到掌控电力、冷却和运营效率的专业数据中心运营商手里。

非线性思考

当前，看待一座超大规模AI集群，不能再从静态数据中心实体的视角出发，而是要把它当成一座动态智能生产工厂：负载逐秒变化、电力需求不断波动、热点不均匀地出现、冷却效率在不同机架与时间上各不相同。即使是完美设计的基础设施，没有协调也会变得低效。

所谓非线性，是指投入和结果不再成比例：密度翻一倍，散热和供电的难度远不止翻一倍；通电晚一个月，损失的也远不止一个月的收入。

因此，无论你是一个常规的智算中心集群、还是把卡时做成规模化云服务的Neocloud，还是直接提供token服务的token工厂，在这个自下而上的交付链条上，算力层的交付能力直接决定了上层的利润。

算一笔账：100MW的Token工厂，GB200级容量大约能装6万张GPU，按每张每小时3.50美元、85%的利用率计算，每100 MW每月可产生约1.29 亿美元的租赁收入（6万×3.50美元×85%×720小时）。在24个月的前沿窗口内，总收入约31亿美元，直到下一代产品上市、价格被重置为止。进度每延误一个月，这个窗口内就损失约1.29亿美元，而且再也追不回来。

显然，数据中心快速部署投产带来的价值，已经超过了数据中心本身的造价。

建设者之间的差距正在被迅速拉开。xAI利用旧厂房改造，配上表后燃气轮机和特斯拉Megapack储能，只用122天就让10万张H100上线；Crusoe的Abilene园区约15个月实现200MW以上投运；而传统的新建项目，仍需要24到36个月。按每100MW每月约1.29亿美元计算，最快与最慢建设者之间约26个月的差距，价值超过33亿美元，约为数据中心建设成本的3倍。有模型测算，一座100MW集群总投资12亿美元，IDC基建只占其中1.6亿美元，但只要送电晚6个月，项目净现值就会从3.4亿美元跌到3,500万美元，缩水近90%。

电网并网延迟对100MW计算集群项目净现值与内部收益率的影响

价格同样是非线性的。按厂商与第三方数据测算，同一兆瓦、同一前沿MoE推理负载，H100机房的毛利率约为−210%，GB200约为+23%，GB300约为+50%，Rubin预估约为+70%以上，芯片代际直接决定了这是一门赚钱的生意还是一门亏本的买卖。与之形成反差的是，电费只占token成本的11%左右。电的稀缺，不在于贵不贵，而在于拿不拿得到、多快拿到。

于是，数据中心要同时承受一连串的“高”：高耗电、高功率、高电价、高绿电、高波动、高频、高压，高温、高带宽、高负载，高速部署，以及高资本投入、高整合、高风险。它们可以归结为三本账：电，多少、多稳、多贵；密度，多紧、多热、多大电流；时间，多快建成、多快换代。10万GPU的训练负载会在100MW与20MW之间毫秒级摆动，单柜功率正从十几千瓦走向数百千瓦，GPU每换一代价格就重置一次。瓶颈已经从适用摩尔定律的硅片、算法和软件，转移到了不适用摩尔定律的钢铁、混凝土、铜和水。

对传统IDC来说，冲击更加直接。过去，IDC靠出租机柜赚钱，也掌握着安全、稳定、供电、散热、电池等一整套行业规则；如今，规则开始由负载来定。在英伟达的设施参考设计里，GPU计算负载不再配UPS，柴发只为核心网络和机械负载按N+2配置，可靠性被拆成了两层；商业模式也从“租机柜”变成“卖电和位置”，再往上是卖卡时、卖token。传统IDC要回答的，已经不是会不会被取代，而是做“厂房”还是做“工厂主”，以及能否在电力获取、快速通电、液冷改造和近端推理上建立新的能力。

数据中心行业正在几种不同规则下形成一个全新的产业生态。

具体来看：通用IDC继续经营空间和可靠性，集中式AI工厂跟着电走，近端推理中心跟着用户走；持有厂房还是持有GPU，又决定了利润与风险的分化。英伟达把一个组件直接命名为MaxLPS，意思是在土地、电力和厂房的约束下把产出做到最大，这本身就说明，智能的上限，已经落到了地上的电和土地上。机会将集中于少数能把电、密度和时间组织起来的玩家，数据中心行业正在进入一个“快的更快、慢的更慢”的阶段。

智能在生长，算力在沸腾，而这场分野的那条线，就画在电、密度和时间上。

当智能成为全天候运转的生产力，当算力与电力在AIDC中彼此约束、协同演进，IDC的价值链正在被重新定义。

12月10-11日 · 北京首钢园

第二十一届中国IDC产业年度大典（IDCC2026）
主题：智能生长算电有度——重构IDC产业价值链

扫码报名

👇 共赴这场算力产业的年度之约👇

让每一度电，成为有效算力

让每一个Token，实现业务价值。

算与电如何各得其度？

答案，就在IDCC2026！

| 文章来源：中国IDC圈。注：本文观点仅代表个人，不代表IDC圈

• END•