本文由 Ecolab 旗下公司 CoolIT 贊助。當伺服器機架功率超過 250 kW 時,傳統的液體與空氣混合散熱方式已無法有效應對。在這種高密度下,即使採用 70/30 的液氣分配,仍會留下 75 kW 的空氣散熱負載。

為此所需的空氣冷卻系統將帶來高昂成本與複雜性,是大多數營運商難以接受的。解決方案在於近乎全面的熱能捕捉。液體能有效帶走幾乎所有熱量,將空氣負載降至 1% 以下,從而使伺服器能夠實現無風扇運作。

CoolIT 目前利用模組化冷板組件來建構這些散熱迴路,這些組件已在六代無風扇設計中得到驗證。處理器的熱設計功耗(TDP)代代攀升,這股不斷增加的熱負載現在正蔓延至記憶體、網路、儲存和電源等過去僅靠空氣就能舒適運作的元件。

多年來,散熱的故事一直很簡單:冷卻處理器,其餘交給空氣處理。然而,這種平衡已經改變。隨著 TDP 升高,熱量從處理器向外擴散,並蔓延到周圍的元件。

記憶體、網路、儲存和電源現在的運行溫度已高到需要獨立的液體散熱。設計下一代 AI 伺服器的工程師們,正面對著一個每次發布新產品,熱能捕捉需求就隨之增加的主機板。當每個機架的功率超過 250 kW 時,空氣冷卻便成為瓶頸。近乎全面的液體熱能捕捉技術,能為下一代運算打造無風扇的 AI 伺服器設計。

與處理器這種扁平矩形封裝不同,這些周邊元件的形狀、尺寸和安裝要求各異,且每個都有其獨特的熱限制。有些元件的運行溫度比處理器外殼溫度低,有些則更高,這使得它們對僅針對 CPU 和 GPU 優化的設計非常敏感。營運商需要針對這些元件量身打造的解決方案,而非將單一設計勉強應用於整個主機板。

CoolIT 的工程師們憑藉豐富的工具包來應對這些挑戰。他們利用導熱板、均溫板、熱導管和熱傳導板,將熱量從元件傳導至更靠近液體路徑的位置。浮動冷板則支援可插拔元件。每個解決方案都忠實於其所服務的元件。CoolIT 客戶案例:GWDG 如何使用 CoolIT 的直接液體冷卻技術為 HPC 和 AI 系統散熱。

冷卻各個元件是一項挑戰,但將它們整合起來才是真正的關鍵。全面的熱能捕捉意味著將所有這些解決方案整合到一個單一的伺服器迴路中,該迴路必須有效分配冷卻液,同時易於安裝。

連接的可靠性、冷卻液的路由以及在機架整合時組裝迴路所需的時間,都決定了設計能否在生產中成功,或僅停留在測試階段。CoolIT 利用經過驗證的模組化組件來建構這些迴路,讓營運商在同一解決方案中同時獲得效能和部署速度。

密度迫使決策。機架功率持續攀升至 1 MW,液體冷卻的必要性也隨之增強。在較低密度下,70/30 的液氣分配尚能應付。然而,一旦超過約 250 kW,這種方式便不再適用。

剩餘 30% 的空氣散熱負載在單一機架內將達到 75 kW,要排除如此大量的熱量需要一套獨立的空氣系統,其成本和佔用空間是大多數營運商無法接受的。增加密度只會進一步擴大這個差距。

隨著機架功率持續朝 1 MW 邁進,CoolIT 的模型預測,到 2028 年,全面熱能捕捉將成為旗艦級機架規模產品的標準伺服器設計。更簡單、更有效率的解決方案是將熱量完全捕捉在液體中,並將空氣負載降至總負載的 1% 以下。

嚴格來說,要達到真正的 100% 幾乎不可能,因此誠實且可實現的目標是「近乎全面捕捉」。這種區別對重視精確度的工程師來說很重要,但無論如何,發展方向都非常明確。隨著密度升高,全面熱能捕捉正從一種高階選項轉變為主流需求,CoolIT 的模型預測,到 2028 年,它將成為旗艦級機架規模產品的標準伺服器設計。

CoolIT 實現全面熱能捕捉。CoolIT 利用經過六代無風扇伺服器設計驗證的模組化冷板組件,將熱能捕捉能力提升至近乎 100%。工程團隊已著手為下一代最高密度機架進行設計。隨著熱量蔓延和機架密度增加,近乎全面的熱能捕捉將成為維持 AI 運作的關鍵設計。請與 CoolIT 聯繫,討論如何建構專為全面熱能捕捉設計的伺服器迴路。