NVIDIA 新一代 AI 伺服器把冷卻液加溫到攝氏 45 度運作,藉此跳過最耗電的冰水主機,改用乾式散熱器把熱排到戶外。
(前情提要:戴爾聯手 NVIDIA 推「全液冷」AI 伺服器!首搭 Vera Rubin 架構,單機櫃 144 顆 GPU 算力破錶)
(背景補充:輝達 800V 供電革命不延期!與臺達電、ABB 夥伴確認:Q3 準時量產)
資料中心的帳單上,貪婪的不只是 GPU,冷卻系統長年吃掉高達 40% 的總用電,是壓縮利潤最大的負擔之一。
不過 NVIDIA 新一代 Rubin 伺服器給出了一個反直覺的答案:想省電,先讓水變熱。新的「熱水冷」散熱技術將冷卻液運作溫度拉高到攝氏 45 度,放棄「越冷越好」的常識。
從 20kW 到 140kW,氣冷撞牆的機櫃
三年前,一座資料中心機櫃的用電量大約落在 20 kW,一般空調加風扇就能打發。GPU 世代交替後,這個數字直接翻了六倍以上,超大規模設施的機櫃密度如今普遍超過 135 kW,NVIDIA GB200 NVL72 單一機櫃的整體熱功耗更逼近 130 至 140 kW。
風扇能吹散的熱量有物理上限,機櫃密度一旦跨過某個門檻,氣冷不再是效率問題,而是能不能運作的問題。這也是為什麼液冷成為 AI 工廠的預設架構,晶片一路堆疊到 NVL72 這種規模,唯一能把熱量即時帶走的方式,只剩下讓液體直接接觸晶片表面。
45°C 熱水冷,為什麼反而更省電?
水冷架構的核心,是直接讓冷卻液流過晶片表面的散熱鰭片,帶走熱量後再送出機櫃,中間不再靠風扇吹送空氣這一層低效率的介質。
Rubin 新世代的冷卻液以 45°C 進入晶片,吸熱後約以 55°C 流出,全程封閉迴圈、系統內不裝風扇,效能沒有打折。
資料中心裡最耗電的單一環節,是機械式冰水主機(chiller)。簡單來說就是,用壓縮機把水強制降溫的「空調心臟」。業界估算,冰水主機的出水溫度每調高 1 度,大約就能省下 4% 的冷卻能耗;而水溫一路放寬到 45°C,等於直接跳過壓縮機這一關,改用乾式散熱器(dry cooler)。
簡單來說就是,只靠風扇把熱水的熱量吹散到戶外空氣、既不蒸發水也不用壓縮機的被動裝置。
25 倍能效、300 倍省水
效果反映在 NVIDIA 官方部落格指出的數字裡:GB200 NVL72 相較傳統氣冷架構,能效高出 25 倍、用水效率高出 300 倍;新一代 GB300 NVL72 的能效優勢更拉大到 30 倍。
換算成衡量資料中心用電效率的 PUE 指標,等於直接砍掉一大截無效能耗。
用水端的落差更直白。傳統散熱以蒸發式冷卻塔為主。簡單來說就是,靠水蒸發帶走熱量的散熱方式,效果好,但每年蒸發掉的水以百萬加侖計,這類系統每 MW 每年大約要消耗 260 萬加侖水。
換成封閉式液冷加乾式散熱器,在合適氣候區可以把用水量壓到近乎零,最高減少 100%。一座 50 MW 的超大規模資料中心,換上液冷基礎設施後,光是冷卻相關的電費與水費,一年就能省下超過 400 萬美元。
📍相關報導📍
AI 吃電危機解方?這家新創 Arcturus 用碳奈米銅線,稱可減少一半電網損耗
SpaceX 太空資料中心靠什麼散熱?工程師狂嗆不可能,馬斯克:在運作的衛星破萬顆
Intel:我們將推出的 AI 晶片比 NVIDIA 與 AMD 更便宜、氣冷 Crescent Island 主攻推理


