GPU散热与功耗管理：你的H100正在'中暑'，而你不知道

你的GPU在"中暑"

H100的功耗是700W，B100是1000W，GB200是1200W。8张H100就是5.6kW——相当于3台空调的功耗。

GPU温度过高，会自动触发降频保护（Thermal Throttling）。降频后，GPU算力下降20-30%。 你花了$2.5/时租的H100，因为"中暑"变成了$3.5/时的"虚弱版H100"。

GPU散热不是"附属设施"，而是"基础设施"。 散热不够，GPU性能大打折扣。

GPU散热的基础知识

GPU的功耗 = 计算功耗 + 显存功耗 + 静态功耗。

• 计算功耗：约占总功耗的70%（取决于负载）
• 显存功耗：约占总功耗的20%（取决于显存使用率）
• 静态功耗：约占总功耗的10%（固定在GPU上电后）

GPU的温度 = 环境温度 + 功耗 × 热阻。

• 环境温度：数据中心机房温度（通常在20-25°C）
• 热阻：GPU散热器和冷却系统的热阻（取决于散热方案）

GPU温度超过80°C，触发降频保护。 温度每升高10°C，GPU寿命减少一半。

散热方案对比

风冷：最便宜，但效果有限

风冷（Air Cooling）是GPU散热的"默认方案"。 每张GPU自带风扇，将热量吹到空气中，然后通过机房的空调将热空气排出。

风冷的优点： 便宜（不需要额外设备），简单（即插即用），成熟（所有数据中心都支持）。

风冷的缺点： 散热能力有限（单GPU功耗超过300W时，风冷效率急剧下降），噪音大（H100的风扇噪音超过70dB），空间要求高（GPU间距需要足够大，保证空气流通）。

风冷适合： 单GPU功耗<300W，GPU密度低（<4张/服务器），噪音不敏感的场景。

液冷：最贵，但效果最好

液冷（Liquid Cooling）是2026年GPU散热的"高端方案"。 通过液体（通常是水+乙二醇）将热量直接从GPU带走，散热效率远高于风冷。

液冷的优点： 散热能力强（可以轻松处理1000W+的GPU），静音（没有风扇噪音），GPU密度高（可以紧密排列，节省空间）。

液冷的缺点： 贵（每台服务器液冷系统约$5,000-10,000），复杂（需要管道、泵、冷却塔），维护难度大（液体泄漏可能导致服务器损坏）。

液冷适合： 单GPU功耗>500W，GPU密度高（>8张/服务器），对噪音和空间有严格要求的场景。

液冷 vs 风冷对比

功耗管理：不只是散热

功耗管理 = 散热 + 供电 + 效率。

供电： 8张H100需要5.6kW的电力供应。很多数据中心的单机柜供电容量只有10kW，无法支持8张H100。 需要确认数据中心的供电容量。

效率： 数据中心的PUE（Power Usage Effectiveness）直接决定电费。PUE=1.2意味着每1kW的GPU功耗，需要额外0.2kW的冷却和配电功耗。 PUE越低，电费越低。

动态功耗管理： 根据GPU负载动态调整功耗。NVIDIA的Max-Q技术可以在低负载时降低GPU功耗30-50%。对于推理场景（GPU利用率低于50%的情况），动态功耗管理可以节省20-30%的电费。

GPU散热的"黄金法则"

法则1：监控GPU温度。 用nvidia-smi或DCGM实时监控GPU温度。GPU温度超过80°C，立即告警。

法则2：控制环境温度。 数据中心机房的温度控制在20-25°C。环境温度每升高1°C，GPU温度升高约1°C。

法则3：保证空气流通。 GPU之间至少预留1U（1.75英寸）的间距，保证空气流通。GPU间距不够，热量无法排出，GPU温度会飙升。

法则4：定期清理灰尘。 灰尘会堵塞GPU风扇和散热器，降低散热效率。每季度清理一次灰尘。

法则5：考虑液冷。 如果GPU功耗超过500W，GPU密度超过8张/台，强烈建议使用液冷。液冷的初始投资高，但长期来看（电费降低+GPU寿命延长）是划算的。

结语：散热是"基础设施"，不是"附属设施"

GPU散热是AI基础设施的"地基"——地基不牢，地面上的建筑再高也没用。 散热不够，GPU降频，算力打折，你花的GPU钱有一半被"浪费"了。

2026年，随着GPU功耗越来越高（B100 1000W，GB200 1200W），液冷正在从"奢侈品"变成"必需品"。 如果你计划部署100张以上的H100/B100，液冷是你必须考虑的投资。

数据来源：NVIDIA H100/B100散热规格，数据中心PUE标准，作者团队数据中心散热实测数据。