承载 AI 推理的边缘计算数据中心如今已运行单机柜功耗达 15–40 kW 甚至更高的机柜,而风冷在每机柜约 30 kW 以上时已无法带走这些热量。切换点并非固定数字:它取决于机柜密度、电价以及边缘站点特有的狭小占地。本文解释了推理为何向边缘迁移、风冷上限在哪里、如何为任何边缘计算数据中心计算切换阈值,以及硬件发货前需要核验哪些事项。
为什么 AI 推理正在向边缘计算数据中心迁移?
AI 推理更偏好就近部署。与可容忍集中式集群的训练不同,推理服务于自动驾驶系统、零售和工业控制的实时决策,这些场景对超过几毫秒的延迟都无法接受。Uptime Institute 将边缘设施定义为靠近终端用户的小型数据中心,可将往返延迟从远端超大规模数据中心常见的 20 至 50 毫秒降低到个位数毫秒。
麦肯锡预测,到 2027 年推理将约占 AI 计算总量的 70%,并以 35% 的年复合增长率(CAGR)增长,到 2030 年超过 90 GW。行业预测印证了这一方向:边缘 AI 市场预计将从 2024 年的 207.8 亿美元增长到 2030 年的 664.7 亿美元,这一转变使这些工作负载落地到分布式站点而非大型园区。其结果是,边缘计算数据中心——曾经只是小型汇聚节点——如今需要运行高密度的加速器机柜。
边缘计算数据中心的机柜密度上升速度有多快?
密度曲线十分陡峭。2020 年需求的平均机柜功率密度约为 8 kW,到 2024 年约翻倍至 17 kW,而边缘和区域设施如今已能为实时 AI 推理支持 15–40 kW 的机柜。Uptime Institute 2026 年调查记录到最常见的机柜密度为 27 kW,较 2025 年的 16 kW 跃升 69%,并预计到 2027 年将达到 45–100 kW。
对边缘计算数据中心而言,这一点至关重要,因为其机房空间小、电力是固定的。为 10 kW 机柜设计的节点,若不改造冷却、供电和结构承重,就无法承载 30 kW 的推理机柜。边缘站点原本的设计能力与推理硬件需求之间的这种差距,正是冷却决策对每一位边缘计算数据中心运营者而言都变得紧迫的原因。
为什么风冷在每机柜约 30 kW 时会碰壁?
空气是一种传热能力较弱的介质。《Energy and Buildings》期刊 2026 年的一项研究发现,采用行级冷却的风冷设施可支持的机柜密度最高约为 29.5 kW。超过这一水平,风扇便无法输送足够的空气让芯片保持在热限值之内,硬件将降频运行。
包括 Uptime Institute 在内的行业来源将实际风冷上限设定在每机柜 20 至 35 kW 之间。制定热设计指南的 ASHRAE 第 9.9 技术委员会(TC 9.9)已为高密度系统新增了 H1 级区间,并建议在每机柜约 20 kW 以上时采用直接芯片级冷却,这明确承认了风冷优先的设计已不再匹配硬件需求。对边缘计算数据中心而言,风冷上限比超大规模机房来得更快,因为可用于增加气流和封闭通道的空间更少,而且每增加一台风扇都会让节点超出其电力预算。
下表从真正驱动边缘计算数据中心决策的指标维度对比了风冷与直接芯片级液冷:最大机柜功率、芯片级热设计功耗、冷却能耗占比、可达 PUE 以及余热温度。
数据来自《Energy and Buildings》研究、ASHRAE TC 9.9 以及 2025–2026 年收集的运营方报告数据。有两项发现尤为突出。第一,在同一占地内,风冷所能支持的功率仅为直接芯片级液冷的约三分之一到四分之一。第二,PUE 差距——1.5–2.0 对 1.03–1.20——是十年使用周期内主导总拥有成本的经常性能耗支出,而这正是大多数边缘基础设施合同实际采用的时间跨度。
| 指标 | 风冷 | 直接芯片级液冷 |
|---|
| 最大实际机柜功率 | 20–35 kW | 60–120+ kW |
| 支持的芯片 TDP | 200–350 W | 700–1,200+ W |
| 冷却能耗占总能耗比例 | 38–40% | 4–8% |
| 典型 PUE | 1.5–2.0 | 1.03–1.20 |
| 余热再利用温度 | 30–40°C(困难) | 60–75°C+(优秀) |
边缘计算数据中心应在什么密度下切换到直接芯片级液冷?
切换阈值是经济拐点,而不仅是热学拐点。在电价为 $0.12/kWh 时,一旦机柜功率超过约 30 kW,直接芯片级液冷在十年总拥有成本上就优于风冷,因为 PUE 改善 40%、消除降频带来 17% 的吞吐量提升,可在约三年内收回更高的资本成本。
在北美和欧洲部分地区常见的 $0.15/kWh 电价下,拐点降至每机柜约 24 kW。在边缘计算数据中心中,这些阈值出现的绝对功率比超大规模机房更低,因为没有规模效应来吸收冷却开销。如果规划的机柜功率高于 24–30 kW,液冷应从第一天起就设计进去,而不是日后改造,因为小型边缘站点的升级窗口要短得多,且站点停机更难安排。
有哪些冷却方案适合边缘计算数据中心?
除风冷外,运营者还有三种液冷路线:背门换热器、直接芯片级冷板和浸没式冷却。背门式机组可将风冷机柜的功率推向约 40–60 kW,但它不在芯片处移除热量,且仍然依赖强劲的气流。浸没式可处理 100 kW 及以上,但它需要专用服务器、特种冷却液和不同的维护工作流,这些在小型无人值守的边缘节点中都不太合适。
直接芯片级冷板可在热源处捕获 80–90% 的热量,保持标准服务器可维护性,并可扩展到每机柜 60–120 kW,这正是规划推理密度的边缘计算数据中心通常会首先选择这一方案的原因。

为什么液冷更适合边缘计算数据中心?
边缘计算数据中心在超大规模机房从不面临的约束下运行:没有全职工程师、物理占地极小、电力预算严格。直接芯片级液冷之所以契合,是因为它在源头移除热量,捕获服务器 80–90% 的热量,并将冷却能耗从约占总功率的 40% 降至 4–8%。采用直接芯片级液冷建设的设施可达到 1.03–1.20 的 PUE 值,而 Uptime Institute 2025 年调查中的全球平均值约为 1.54。
35–50°C 的温冷媒回流可在远程站点实现自然冷却和余热再利用。防漏快接头与歧管设计允许在不排空回路的情况下更换机柜,而更低的风扇噪音使边缘计算数据中心能够进入市区建筑,而嘈杂的大型机房则无法立足。直接芯片级液冷目前约占液冷市场的 55%,是高密度机柜的主流答案。
为液冷改造边缘站点前必须检查哪些事项?
改造比全新设计风险更高,四项检查决定现有边缘节点能否接受直接芯片级液冷。
第一,确认结构承重能力:高密度 AI 机柜重量可超过 1,500 kg,点载荷接近每平方米 1,800 kg,而许多老式楼板额定承重仅 2,000–2,500 lb。
第二,核实在最不利室外条件下设施水或冷冻水以吨计的容量,因为进入机柜的每千瓦功率都会转化为热量排出。
第三,确认供电能力,因为功耗达 40 kW 及以上的机柜可能超出为 10 kW 设计的馈线和 UPS 余量。第四,规划泄漏检测和 CDU 布置,并在任何加速器发货前在带载状态下完成环路调试。在边缘计算数据中心中,这些检查均可远程执行,适合没有驻场工程师的站点。
边缘计算数据中心的实用决策路径是什么?
在签署设计前遵循以下顺序。确认制造商给出的机柜功率与发热规格,而不是凭经验法则。梳理馈线、UPS 和发电机的可用功率余量,而不是看铭牌数字。使用当地电价运行成本拐点计算。通过比较十年总拥有成本,在风冷、混合式与直接芯片级液冷之间做出决定。
然后核实楼板、供水和泄漏检测的完备性,并在 GPU 发货前签署分区就绪闸门。这一顺序之所以重要,是因为每一步都会验证或否定下一步,而跳过电力审计正是边缘项目在硬件到货后停滞的原因。只要一致地应用,同一份检查清单可扩展应用于数十个边缘计算数据中心站点,让每一次改造决策都成为可重复、可审计的流程。
对边缘计算数据中心而言,冷却问题已不再是可选的工程细节。随着推理机柜功率攀升至 24–30 kW 以上,风冷在物理上和经济上都会失效,直接芯片级液冷将在约三年运营期内成为成本最低、最可靠的选择。
决策窗口很短:尽早核实电力、楼板和供水容量,按实测峰值需求配置冷却规模,并在密度将攀升之处规划液冷。将冷却视为一流设计输入的边缘计算数据中心,能够以个位数毫秒的延迟、更低的能耗成本和接近 1.1 的 PUE 承载 AI 推理。忽视这一阈值的运营者将遭遇芯片降频、部署停滞,并以约为前期成本两倍的代价进行改造,而竞争对手则以从一开始就准备就绪的设计抢占同一推理市场。
发表回复