Search

AI Server Liquid Cooling: Matching the Right Strategy to Every Deployment Scenario – 中文

AI Server Liquid Cooling

从风冷到液冷的热管理转型,已成为人工智能领域最具标志性的基础设施决策之一。曾经将液冷视为超级计算边缘场景中一种新奇选项的数据中心运营商,如今正面临一个截然不同的现实:NVIDIA、AMD 和 Intel 的 GPU 路线图已将单机柜功耗推升到风扇和气流远远无法应对的水平。

为每种部署场景匹配合适的AI 服务器液冷方案已不再是理论问题——它直接决定一项 AI 基础设施投资能否兑现其性能承诺。

据 TrendForce 数据,液冷在 AI 数据中心的渗透率已从 2024 年的 14% 飙升至 2025 年的 33%。AFCOM 的 2026 年报告显示,平均机柜密度在一年内从 16 kW 攀升至 27 kW。

据高盛分析,当前 AI 训练机柜的运行功率在 40 至 132 kW 之间,NVIDIA 的 Vera Rubin 平台正将单机柜功率推向 190 kW,而 Rubin Ultra Kyber 测试单元的目标是在 2027 年前后达到约 600 kW。风冷在单机柜约 30 至 40 kW 时便触及实际天花板,这使得液冷热管理成为现代 GPU 集群的默认选择。如果你的组织正在规划 AI 基础设施,问题已不再是「是否采用液冷」,而是「哪种架构与你的工作负载密度相匹配」。

物理之墙:为什么风冷无法为 AI 降温

液体的传热效率大约是空气的 3,500 倍。传统风冷设施通常运行在 1.55 至 1.67 的 PUE 区间,这意味着约有三分之一的输入电力用于支撑基础设施而非 IT 设备。正如 Axis Intelligence 2026 年 7 月的冷却经济学分析所述,当运营商试图仅用风冷为 100 kW 的 GPU 机柜降温时,所需的风量在物理上会干扰相邻机柜,而且能耗高得令人望而却步。

相比之下,芯片级直冷液冷通常可将 PUE 控制在 1.10 至 1.20 左右。施耐德电气(Schneider Electric)表示,在合适的应用场景中,其芯片级直冷架构可降低 30% 至 60% 的制冷能耗。对于受固定电力配额约束的运营商而言——据 Data Center Dynamics 报道,主要市场的电网并网排队时间现已长达三至四年——从制冷开销中每回收 1 MW 电力,都直接转化为可部署的 AI 算力。你现有的电力配额可能突然就能多支撑 20% 至 30% 的 GPU 机柜,而无需等待新的电网接入。

大规模训练:100kW+ 机柜必须采用液冷

要求最严苛的液冷部署场景是大型训练集群。NVIDIA 的 GB200 NVL72 将 72 颗 GPU 和 36 颗 Grace CPU 集成在单个机柜平台中,功耗约为 120 至 132 kW。GB300 NVL72 更将其推高至 132 至 155 kW。这些系统产生的热量相当于几十户住宅的用热负荷,却集中在比一个停车位还小的空间里。

对于拥有数百乃至数千颗 GPU 的训练集群,散热挑战成倍加剧。一个使用 GB200 级硬件、包含 10,000 颗 GPU 的部署约占 140 个机柜,产生 16 至 18 MW 的热量。没有 AI 服务器液冷,运营商将面临两种无法接受的结果:GPU 降频导致训练周期延长 20% 至 40%;或者过度建设的空气处理系统比算力本身消耗更多电力。

AI 服务器液冷

据 Datacentres.com 报道,微软已在 2026 年 1 月以来新建的 14 个区域数据中心集群中部署了浸没式液冷。NVIDIA 现已将液冷规定为其在北美、欧洲和亚太地区新设施的基线要求——而非可选升级项。

推理集群:无降频的持续吞吐

训练虽占据头条,推理才是企业 AI 的运营支柱。推理工作负载持续运行,每天服务于数千个用户请求。热稳定性对于可预测的延迟和吞吐至关重要,而不仅仅是峰值性能。

在高并发推理场景下,采用风冷时 GPU 结温在负载高峰期间可能波动 15 至 20 摄氏度,触发频率调整从而导致响应时间恶化。精密液冷可将结温稳定在 3 至 5 摄氏度以内,实现持续的全速运行和一致的推理延迟。CoolIT Systems 指出,这降低了芯片结温的波动性,为长期运行、混合精度的工作负载创造了可预测的热环境。当运行面向客户的 AI 应用时,响应时间的一致性直接影响用户满意度,这种热环境可预测性直接守护着服务等级协议(SLA)和收入。

多租户托管与混合 AI 工作负载

托管众多不同租户的托管机房必须在不影响现有客户的前提下支持 AI 工作负载。一个高密度 AI 部署就可能击穿为单机柜 8 至 12 kW 设计的共享制冷能力,形成热点并拖累相邻机柜的性能。

2026 年 2 月至 7 月间,Equinix 在瑞典斯德哥尔摩和哥德堡地区建成了三座高密度 AI 设施,总容量达 340 MW。这些专用设施将 AI 租户隔离在液冷区域,同时为标准企业工作负载保留传统风冷。芯片级直冷液冷使托管服务商能够向 AI 客户提供单机柜 50 至 70 kW 的功率,而无需所有租户迁移。

这种混合制冷模式——AI 服务器机柜用液冷、其余一律用风冷——已成为向 AI 托管扩张的托管运营商的主流模式。如果你的企业租用托管空间,在签约前确认液冷区域支持情况,可以避免租期内代价高昂的基础设施冲突。

边缘 AI:受限空间中的液冷

边缘部署场景面临着不同的约束。物理空间有限、没有专职设施团队、环境条件严苛,这些因素使传统风冷机柜难以承载高密度 AI。精密液冷支持密封、近乎静音的服务器机箱,可在办公室、工厂车间或户外通信机柜中运行,免去高速风扇带来的噪音和粉尘污染。

国际能源署(IEA)预计,在 AI 的大力推动下,到 2030 年全球数据中心的电力消耗将达到约 945 TWh。大部分增长将发生在传统园区之外,分布在服务于自动驾驶、工业质检和实时视频分析推理的分布式边缘节点上。

据 Iceotope 称,边缘液冷可降低风扇功耗、将用水量削减最高 96%,并保护电子设备免受空气中污染物的侵害——这让液冷边缘服务器在传统风冷机柜无法胜任的场景中成为可行方案,同时可将 AI 推理部署在更靠近数据源的位置,而无需回程传输。

存量数据中心液冷改造

并非每个组织都能新建 AI 数据中心。为单机柜 5 至 10 kW 设计的现有设施必须经过改造才能承载 GPU 集群——而液冷的灵活性正是在这条改造路径上得到充分展现。芯片级直冷回路可以部署在特定的机柜区域,而无需重建整个制冷系统。

改造的关键组件包括冷却液分配单元(CDU)——可安装为侧挂式或列间式——以及处理残余空气侧热量的背门换热器。施耐德电气的分析表明,分阶段进行液冷改造可使运营商逐步完成高功率机柜的过渡。

在纽约州布法罗的 TeraWulf Lake Mariner 园区——一个改造旧工业场址的棕地项目——集成式电力和液冷基础设施支撑着预计达到 750 MW 的分阶段建设,证明现有的电网并网条件可以作为高密度 AI 部署的基础资产。如果你的设施拥有富余电力容量但制冷基础设施老化,分阶段液冷改造无需新建项目那样耗时多年,即可开启 GPU 托管收入。

新建项目:从第一天起原生液冷

新建 AI 数据中心已趋同于一个共识:液冷是默认选择。据 Datacentres.com 报道,在全球 25,000 MW 的建设管线中,约 60% 的超大规模项目现已强制采用浸没式或芯片级直冷架构。Google 和 AWS 已在欧洲部署了液冷就绪的模块化数据中心,而模块化建设将典型 50 MW 设施的新建周期从 36–42 个月压缩到 22–26 个月。

原生液冷设计可实现热力与电力基础设施的一体化,消除改造带来的效率损失,并支持面向区域供暖的余热回收——这也是欧洲法规日益强化的要求。液冷就绪基础设施的资本溢价约为传统设计的 8% 至 12%,可通过设施全生命周期 20% 至 30% 的运营成本下降来回收。

如何选择正确的 AI 服务器液冷架构

选择合适的架构取决于三个参数:机柜功率密度、设施类型和工作负载特性。40 kW 以下的机柜,混合风液方案即可胜任;40 至 100 kW 的训练机柜,采用列间 CDU 的芯片级直冷是公认标准;超过单机柜 100 kW,则必须采用液-液散热的全液冷方案。浸没式液冷可将 PUE 低至 1.05,但资本成本更高,仅适用于超高密度部署。

规划液冷 AI 集群时,尽早评估 CDU 容量、冗余和设施接口兼容性,可以避免代价高昂的重新设计。冷板、快接头和歧管必须与特定的 GPU 配置匹配——这正是 SOETECK 通过一体化设备供应所解决的难题,将制冷视为端到端算力交付体系的一部分。

高盛指出,2027 年的 AI 机柜设计所需功率约为当今互联网服务器机柜的 50 倍,顾问们正在为五年内最高 2.2 MW 的机柜做设计。AI 服务器液冷已从一个小众差异化优势,转变为任何大规模部署 GPU 加速计算组织的基线假设。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注