AI 已進入巨量級時代。全球最先進的 AI 工廠正匯集數十萬個 GPU 和 CPU，以訓練前沿模型、驅動代理式 AI 並以前所未有的規模生成智慧。在這個層級，網路成為推動 token 生成的關鍵運算力倍增器。

輝達 Spectrum-6 乙太網路交換器系統標誌著網路領域的一個里程碑，它提供每秒 102.4 兆位元的傳輸速度，容量是前一代系統的兩倍。作為 NVIDIA Vera Rubin 平台的一部分，Spectrum-6 正陸續部署到全球的巨量級 AI 工廠中。

Spectrum-6 是新一代 NVIDIA Spectrum-X 乙太網路平台的基石，提供運行 AI 工廠所需的高頻寬、擴展性和智慧功能，使其能作為一個端到端的運算系統運作。

領先的 AI 業者率先採用

全球領先的 AI 基礎設施建構者，包括 CoreWeave、Microsoft、Nebius、SpaceXAI 和 Tesla，將率先導入 Spectrum-6，以加速其 AI 工廠的運作。

對於雲端服務供應商而言，Spectrum-6 意味著更多的運算容量可以作為統一的高效能資源運作，協助客戶更快地訓練模型並部署推論服務。

CoreWeave 網路產品總監 Min Jun 表示：「CoreWeave 專為最嚴苛的 AI 工作負載而建，網路對於大規模提供效能至關重要。將 NVIDIA Spectrum-6 和液冷式 Spectrum-X 乙太網路基礎設施導入我們的 AI 工廠，將有助於我們提供客戶所需的頻寬、彈性和效率，以更快地訓練前沿模型並部署推論。」

Nebius 全球合作夥伴副總裁 Laurelle Roseman 說道：「在巨量級規模下，效能取決於協調性：讓每個 GPU 保持同步，這樣一個緩慢的連結就不會拖延整個任務。這正是 NVIDIA Spectrum-6 所追求的目標，也是我們提早導入它的原因，一個在客戶最嚴苛工作負載擴展時仍能保持快速且具彈性的網路架構。」

對於自行建構基礎設施的 AI 先驅而言，Spectrum-6 意味著更多的 GPU 能同步運作，在要求嚴苛的集體運算中實現更高的利用率，並為長時間運行的任務提供更強大的彈性。

在各種使用情境中，其結果都是在超大規模下更快地獲得成果並帶來更好的經濟效益。

CoreWeave、Microsoft 和 Nebius 將是首批部署基於 NVIDIA Vera Rubin 基礎設施並搭載 Spectrum-6 的供應商之一，將該平台的存取權擴展到廣大的開發者、新創公司和企業社群。

AI 效能是網路問題

單純的 GPU 峰值效能已無法預測 AI 工廠的整體表現。

大規模的訓練和推論工作負載依賴數千個加速器持續交換資料。集體通訊是同步 GPU 之間工作的基本操作，會產生大量的東西向流量，通常是多個系統同時傳輸。

乙太網路最初主要為企業應用和使用者、伺服器與儲存之間南北向流量而設計。它並非為巨量級 AI 中同步且大量集體通訊模式所打造。

Spectrum-X 乙太網路改變了這一點。它專為 AI 而生，將乙太網路轉變為高效能的橫向擴展網路架構，旨在確保每個 GPU 都能持續獲得資料。

新一代 Spectrum-X 乙太網路

Spectrum-6 交換器晶片與 NVIDIA ConnectX-9 SuperNIC 結合，構成新一代 Spectrum-X 乙太網路，並作為 NVIDIA Vera Rubin 平台的一部分進行設計。該平台整合了 NVIDIA Vera CPU、Rubin GPU、NVLink 6 Switch、ConnectX-9 SuperNIC、BlueField-4 DPU 和 Spectrum-6 乙太網路交換器。

Spectrum-6 支援可插拔和共同封裝光學兩種形式。此外，Spectrum-6 產品還支援液體冷卻，為整個 AI 工廠提供全面、端到端的散熱方案，同時提高網路的電源效率。

與現成的乙太網路不同，NVIDIA Spectrum-X 乙太網路平台專為 AI 工廠的橫向擴展而設計，整合了智慧交換器、NVIDIA ConnectX-9 SuperNIC 和全堆疊網路軟體，所有組件都為 AI 共同打造。該平台的進階功能持續優化流量在網路架構中的傳輸方式。

此外，NVIDIA Spectrum-X 技術能智慧地平衡可用路徑上的流量，快速繞過故障，並在資料未能到達目的地時精確恢復。同時，對開放網路作業系統和多種 RDMA 傳輸模型的支援，為 AI 建構者提供了靈活性，而不會犧牲效能。

Spectrum-X 乙太網路是輝達垂直整合、水平開放策略的內在體現：在整個運算平台中共同設計晶片、系統和軟體，同時支援標準乙太網路、開放網路作業系統、開放協定以及廣泛的雲端供應商、系統製造商和基礎設施合作夥伴生態系統。客戶無需自行組裝零件並事後優化，而是獲得一個完整的 AI 工廠平台，旨在提供最快的訓練時間和最低的每 token 成本。

為證明此方法，Spectrum-X 乙太網路提供比現成乙太網路高達 1.6 倍的 AI 網路效能，並在超過 10 萬個 GPU 的部署中保持高達 95% 的網路效率。

硬體加速的 Spectrum-X 多平面拓撲將資料中心所需的交換器數量減少 1.7 倍，進一步加速網路效率。透過 Spectrum-X 乙太網路光子技術實現的額外優勢，包括 5 倍的電源效率提升和 10 倍的平均故障間隔時間改善，網路架構的增強持續提供超越元件級優化的工作負載加速。

了解更多關於 NVIDIA Spectrum-X 乙太網路平台。