泡澡池的水溫大約在攝氏 38 到 40 度之間，大多數人只能浸泡約 15 分鐘。NVIDIA 最新的 AI 伺服器卻能讓其冷卻液運行在更高的溫度，最高可達攝氏 45 度（華氏 113 度）。正是這個更高的溫度上限，讓它們的能源效率更佳。

NVIDIA Rubin 世代的 AI 基礎設施是全球首個實現 100% 液冷設計的產品，系統中的每個晶片、每個網路元件都完全透過封閉迴路中的液體進行冷卻，且沒有任何風扇。這種液冷方法已在 NVIDIA DSX AI 工廠參考設計中詳細說明，該設計指南概述了如何設計、建構和營運整個 AI 工廠基礎設施堆疊的最佳實踐。

儘管每一代產品都能在每瓦特功耗下提供顯著更多的運算能力，但全液冷的 AI 運算基礎設施使資料中心能夠大幅降低冷卻能耗。這對於超大規模資料中心的整體能源使用來說，產生了實質性的影響。

NVIDIA 資料中心冷卻與基礎設施總監 Ali Heydari 表示：「NVIDIA DSX AI 工廠參考設計實現了零水耗，我們消除了大量的電力消耗，也幾乎完全杜絕了水資源使用。」他補充說：「採用乾式冷卻器設計的系統是封閉迴路，沒有蒸發式水冷卻，除了在某些氣候條件下，一年中可能只有約 1% 的時間需要使用冷卻機。」

過去，冷卻系統本身就佔資料中心用電量的 40%，使其成為效率提升能同時降低營運成本和能源需求的最重要領域之一。

業界估計，冷卻機組的溫度每提高一度，就能將冷卻能耗成本降低約 4%。在大規模應用下，這些節省的費用會迅速累積。一個 50 兆瓦的超大規模設施，若改用液冷基礎設施，每年可在冷卻相關的能源和水費上節省超過 400 萬美元。

在氣候適宜的地區，NVIDIA 的 45 度液冷架構可以透過乾式冷卻器實現無冷卻機運作，將設施的冷卻水消耗從傳統冷卻塔系統的每年每兆瓦約 260 萬加侖，降至接近零，水資源使用量最高可減少 100%。

原因是：傳統的氣冷資料中心依賴大量冷卻空氣來帶走 IT 設備的熱量，在炎熱天氣下通常需要耗能的冷卻基礎設施。而 NVIDIA 的 45 度液冷技術則直接在晶片處捕捉熱量，並透過在更高溫度下運行的液體迴路傳輸，使得戶外乾式冷卻器在一年中的大部分時間都能高效散熱，同時顯著減少機械冷卻需求和設施用水量。

資料中心的環境溫度變得彈性，即使是溫暖的夏季空氣也沒問題，因為伺服器中的任何元件都不再依賴冷空氣。液體完成了所有工作，而且相同的液體可以在封閉迴路中循環使用，因此無需消耗新的水來冷卻晶片。

由於 NVIDIA Rubin 平台整合了 100% 液冷基礎設施，所有為其建置的雲端服務供應商和資料中心營運商都在進行轉型。

整個生態系統也正跟上腳步。Schneider Electric 旗下的先進冷卻部門 Motivair，已與 NVIDIA 的產品藍圖合作近十年。其總裁兼執行長 Richard Whitmore 表示，隨著功耗密度跨越氣冷不再可行的門檻，雙方的合作關係也日益緊密。

Whitmore 說：「一旦每個晶片的瓦特數超過某個水準，液冷就成了必選項。」

業界長期以來存在一個誤解，認為冷的資料中心才是高效的。幾十年前，如果資料中心感覺不像步入式冷凍庫，人們就會認為出了問題。

事實上，晶片可以承受比直覺想像中更溫暖的環境。矽處理器會產生巨大的內部熱量，進入完全液冷晶片的冷卻液在攝氏 45 度時，離開時大約是 55 度，它已經吸收了晶片表面的熱負荷。然而，性能並未因此下降。

處理器能持續以全效能運作，是因為液冷散熱板將設備溫度維持在經過驗證的運作限制內，即使冷卻液以攝氏 45 度進入機架也一樣。

走進傳統資料中心，你會注意到兩件事：噪音，冷卻風扇會使總噪音水平達到或超過 85 分貝，響亮到需要耳部保護；以及熱通道和冷通道的物理佈局，這些都經過精心管理，以將冷卻空氣推向各個元件。

Rubin 架構改變了這種局面。

冷卻液（75% 水和 25% 丙二醇）流經直接安裝在處理器上的冷卻板，從源頭帶走熱量。讓冷卻液運行在最高攝氏 45 度，意味著在許多氣候條件下，設施迴路無需啟動機械冷卻機和嘈雜的風扇即可散熱。

在 AI 工廠中，冷卻液從冷卻液分配單元流向伺服器，形成一個封閉迴路循環。

這不僅僅是節省能源，更開啟了完全消除水資源消耗的可能性。

在合適的地理位置，例如戶外空氣持續涼爽的地方，液冷資料中心可以透過冷卻液分配單元散熱，這些單元直接在熱源處捕捉熱量，並將其傳輸到建築物外部的大型散熱器線圈（即戶外乾式冷卻器）。

該迴路只需填充一次，即可在設施的整個生命週期內封閉運行。與傳統的氣冷基礎設施相比，它在 AI 工廠中佔用的空間也大幅減少。

Whitmore 表示：「在正確的地理位置，搭配正確的系統設計，你根本不需要任何製冷設備。」他補充說：「你只需在外面放置大型散熱器線圈，利用空氣溫度來完成所有冷卻工作。這效率高得驚人。」

地理位置的考量至關重要。位於蘇格蘭高地和亞利桑那州鳳凰城的資料中心面臨著截然不同的現實。但即使在較溫暖的氣候下，轉向使用攝氏 45 度冷卻液，也能讓營運商顯著接近無冷卻機的理想狀態，在這種情況下，冷卻機可能只在戶外氣溫要求時，一年中開啟幾天。

這種 AI 工廠新模式的另一個關鍵優勢是廢熱回收的潛力，AI 工廠運作產生的餘熱可以重新利用，為附近的商業或住宅建築供暖。

先前的液冷伺服器是混合式的：GPU 和 CPU 獲得了冷卻板，但系統的其餘部分仍採用氣冷，透過鰭片散熱器將熱量散發到流動空氣中。在完全液冷的伺服器中，這些元件的冷卻方式需要徹底重新設計，以使用液體。

NVIDIA 的熱工程團隊重新設計了這些元件的散熱方式，設計出簡化液體如何透過單一進出口導向電路板上多個高功率晶片的冷卻迴路，從而實現了更簡潔的托盤級冷卻架構。

一個明顯的成果是：Rubin 伺服器擁有乾淨、密封的前面板，而氣冷伺服器則有穿孔的邊框。另一個優點是：全液冷伺服器比氣冷伺服器能實現更高的機架密度，因此以前佔用六個機架單元的系統現在只需兩個，這意味著更多的運算能力、更小的空間和更低的噪音。

AI 工作負載只會越來越重。推動資料中心建設的運算需求，其增長速度幾乎超過了所有其他基礎設施投資類別。

如果不改進運算散熱的效率，大規模運行 AI 的能源成本將與硬體同步增長。最高可達攝氏 45 度的液冷技術，比泡澡池更熱，卻對地球更涼爽，是業界彌補這一差距最重要的工具之一。

欲了解更多關於液冷技術、NVIDIA DSX AI 工廠平台以及 NVIDIA 節能 AI 基礎設施的方法，請參閱相關資訊。