隨著 AI 從模型開發階段邁向生產推論,運算需求正加速增長,並轉向大規模生成 token 的持續運作型 AI 工廠。這種轉變需要快速上線、高利用率且能支援 token 規模 AI 服務經濟效益的大規模多租戶加速運算。

過去,新興 AI 公司難以取得資本密集的基礎設施,即使簽訂長期承諾也往往不足以獲得運算資源的融資。

為了解決這個問題,NVIDIA 推出了一種新的商業模式,旨在向快速成長的 AI 生態系開放運算資源,包括新創公司、模型開發者、企業、研究機構和區域性 AI 業者。

這個新模式讓 AI 雲端服務商能透過營收分享和信用支持的經濟合作模式,為 AI 原生公司、企業和獨立軟體供應商(ISV)客戶採購 NVIDIA 基礎設施。透過這種夥伴關係,AI 雲端服務商將銷售由 NVIDIA 驅動的雲端服務,而 NVIDIA 除了標準產品營收外,還能從支援容量的雲端營收中獲得分成。

這種結構加速了 NVIDIA 平台在高成長、高潛力 AI 原生領域的採用,並為 NVIDIA 帶來與使用量掛鉤的經常性收益。

對於模型開發者、推論服務商、代理平台以及擴展 AI 規模的企業而言,這意味著可以更快地取得全堆疊加速運算能力,無需等待選址、電力採購、建設和硬體啟動等繁瑣流程。

這項計畫已逐步成形,多家 AI 雲端公司正積極建立 DSX AI 工廠,旨在為不同區域的客戶和工作負載提供服務。Sharon AI 和 Firmus 是首批與 NVIDIA 合作採用此新商業模式的公司。

Sharon AI 正在部署多達 40,000 個 NVIDIA Grace Blackwell GB300 GPU。Sharon AI 共同創辦人暨執行長 James Manning 表示:「與 NVIDIA 的這項策略合作,標誌著 Sharon AI 在提供主權、大規模 AI 運算基礎設施使命上的關鍵時刻。」

Firmus 正在印尼巴淡島建立一座 DSX AI 工廠園區。該園區預計可擴展至 360 兆瓦的電力容量,並部署多達 170,000 個 NVIDIA GPU。Firmus Technologies 共同執行長 Tim Rosenfield 指出:「AI 原生公司需要可擴展、節能且具成本效益的運算基礎設施,才能在全球市場競爭。

Firmus AI 雲端正在建立符合 NVIDIA DSX 標準的 AI 工廠,這將使我們的雲端服務能協助更多客戶取得他們所需運算資源,以建構和擴展 AI。」

Baseten、Fireworks AI 和 Together AI 等 AI 原生公司顯示了運算需求的趨勢:他們需要立即取得 AI 雲端容量,以便為開發者、數位原生公司和採用 AI 的企業執行模型訓練、後訓練、微調以及大規模代理推論。隨著使用量增長,他們的客戶需要可靠地存取大規模的 NVIDIA 加速運算,同時也需要商業上的彈性,以應對產品從試點階段轉向生產的過程。

如需確保運算容量並建構及部署 AI 模型,請聯繫 Sharon AI 和 Firmus。欲了解更多關於 NVIDIA 雲端合作夥伴和 AI 工廠的資訊。