跳到主要內容
maxstudioNews
產品NVIDIA Blog約 12 分鐘

NVIDIA GTC Berlin 揭示本地 AI 硬體陣容,RTX Spark、DGX Spark、DGX Station 驅動 AI 代理新時代

NVIDIA 在 GTC Berlin 大會上展示其完整的本地 AI 硬體陣容,包括個人電腦用的 RTX Spark、開發者用的 DGX Spark,以及企業團隊用的 DGX Station。這些產品旨在驅動新一代的 AI 代理,並支援多種先進模型與應用。NVIDIA 也宣布了多項更新,包括新的開源模型、加速推論引擎,以及針對不同硬體的優化。

NVIDIA GTC Berlin 揭示本地 AI 硬體陣容,RTX Spark、DGX Spark、DGX Station 驅動 AI 代理新時代
圖片來源:NVIDIA Blog

在 GTC Berlin 大會上,NVIDIA 展示了其完整的本地 AI 硬體陣容。上週推出的 RTX Spark 驅動 Windows 個人電腦上的 AI 代理;DGX Spark 支援開發者在 Linux 上建構和擴展應用程式;而 DGX Station 則服務於在 Linux 上執行前沿工作負載的企業團隊,其 Windows 版本將於 12 月推出。

本次發布的重點包括:適用於 RTX Spark 的 Underdog 桌面代理程式現已推出;DGX Spark 64GB 版本將於 10 月 23 日上市;NVIDIA Sync 將支援多達八個 DGX Spark 系統並於本月新增 Model Launcher 功能。此外,DGX Spark 的十月軟體更新將加入 Wi-Fi Assistant 並更新 DGX Spark Skills。

針對 DGX Station,管理性也獲得提升,新增了七項整合功能,其 Windows 版本將於 12 月推出,支援多款製造應用程式和代理框架。NVIDIA 也為 DGX Station 提供了三個新的開源機器人參考工作流程,並且 NVIDIA Cloud Functions 將以搶先體驗版形式登陸 DGX Station。

在模型方面,Recursive Superintelligence 推出了一款新的本地程式碼模型 Recursive Flint,並支援 NVIDIA 本地硬體。NVIDIA 也宣布對 Nemotron、GLM、DeepSeek、Qwen、MiniMax 和 FLUX.3 等新 AI 模型提供「零日」支援,同時為 llama.cpp 和 vLLM 推論引擎帶來新的加速,並推出一系列針對本地 AI 硬體優化的模型檢查點。

以下將詳細介紹這些本地 AI 的最新消息,也歡迎在 GTC Berlin 體驗相關的展示和議程。

RTX Spark 將個人 AI 代理帶入 Windows 個人電腦。RTX Spark 為個人電腦開創了新局面,它能運行個人 AI 代理、加速內容創作,並提供 1440p 解析度下每秒 100 幀的遊戲體驗,最高配備 128GB 統一記憶體和 1 petaflop 的 AI 運算能力。

自 10 月 16 日發布以來,早期評論者對該平台的評價包括:「專業創作者的夢幻機器」(CGMag)、「為 AI 未來而設計」(The Verge),以及「功能極強、出乎意料地便攜且高效的機器」(PCMag)。

Underdog 是一款專為完全本地化、私有 AI 設計的新型桌面代理應用程式,也將其體驗帶到 RTX Spark。Underdog 透過其 Husky 模型專用推論引擎驅動,模型完全在裝置上運行,確保個人代理在處理任務時,使用者資料不會離開個人電腦。Underdog 現已開放下載。

為了更好地讓開發者和愛好者建構及客製化本地代理,許多 RTX Spark 筆記型電腦都配備了已解鎖的引導載入器(bootloader)。在 GTC 主題演講中,NVIDIA 創辦人暨執行長黃仁勳展示了如何在 RTX Spark 上運行 AI 代理,並利用 NVIDIA Isaac Lab、Hermes Agent 和 Nemotron 3.5 Bolt 74B 來訓練 Hugging Face 的 Microduck 機器人。

ASUS、Dell Technologies、HP、Lenovo、Microsoft 和 MSI 的筆記型電腦現已上市,Acer 也將很快推出。欲了解更多關於 RTX Spark 的資訊,請參考最新的 RTX Spark 應用手冊。

DGX Spark 為開發者提供建構空間。新的 DGX Spark 64GB 系統將於 10 月 23 日星期五起由合作夥伴陸續推出,這些系統能運行包括 Nemotron 3.5 Bolt 74B 24GB、Qwen3.8 27B 和 Gemma 4 26B-A4B 等模型。

當工作負載需要更大容量時,開發者可以透過內建的 NVIDIA ConnectX-7 網路和 NVIDIA Sync Cluster Assistant 連接多個 DGX Spark 系統。這使得使用者能夠運行 Qwen 3.8 Flash Next、DeepSeek v4 Flash 0731 和 GLM 5.3 Flash 等先進的程式碼模型。

目前,DGX Spark 支援手動配置多達八個單元的叢集,可實現更大的模型、更長的上下文、並行代理和分散式開發。這非常適合小型團隊將單一叢集作為後端共享,每個開發者都能針對相同模型運行並行會話,它提供 1TB 的統一記憶體,足以運行 GLM 5.3 等前沿級模型。

請參考 DGX Spark 叢集應用手冊開始使用。NVIDIA Sync Model Launcher 也將於本月稍後推出,它簡化了在單一 DGX Spark 或叢集上存取本地 AI 的方式。只需點擊幾下,Model Launcher 就能下載適合配置的模型和容器,並將模型連接到 OpenCode。

它還會自動載入 DGX Spark Skills,用於故障排除、裝置維護、存取官方文件和其他工作流程指導。

十月的 DGX Spark 軟體更新帶來了新的 Wi-Fi Assistant,讓使用者在 DGX Spark 以設備模式運行時能夠切換網路。此外,DGX Spark Skills 透過 OpenCode 將以工作流程為導向的故障排除和裝置維護指南直接整合到 NVIDIA Sync 中。

DGX Spark 系統可直接從 Acer、ASUS、Dell Technologies、GIGABYTE、HP、Lenovo、MSI 和 NVIDIA 購買。

DGX Station 將前沿智慧帶到辦公桌。對於大型團隊而言,DGX Station 提供 748GB 的一致性記憶體和高達 20 petaflops 的 AI 效能,使開發者能夠運行 GLM 5.3 等先進模型,並以與雲端模型相當的速度服務超過 30 位使用者。為了進一步擴展規模,NVIDIA Sync 現已支援 DGX Station,簡化了兩個基於 Linux 系統之間的連接。

與 Absolute Security、Splunk by Cisco、Fleet Device Management、Microsoft Intune、Perforce Puppet、Progress Software Chef 和 Tanium 的新整合,讓 IT 團隊能夠透過企業設定、管理和合規流程來管理 DGX Station 系統,有助於加速審批、降低部署風險,同時最大限度地縮短首次生成時間。

隨著即將推出的 Windows 系統,開發者可以建構工作流程,利用專業應用程式,在 NVIDIA RTX PRO GPU 上運行,並透過在 NVIDIA GB300 系統上運行大型語言模型(LLM)的代理程式來操作,所有這些都整合在一台機器中。

DGX Station for Windows 預計將於 12 月由系統製造商合作夥伴推出,它將本地 AI 擴展到企業已使用的應用程式和操作環境中。工程師可以在 Windows 原生軟體中運行本地模型和代理,並在同一系統上存取 AI 模型、工具和代理。

DGX Station for Windows 將支援來自 nTop、Dassault Systèmes、Keysight Technologies、MathWorks、Rockwell Automation、Siemens、Synopsys、Unity 和 Altera 的製造應用程式,用於 AI 輔助設計、模擬、驗證和工程自動化。

使用者將能夠在企業環境中,透過 Hermes Agent、Perplexity 或 Aible 在本地運行代理程式進行代理控制。

同樣的本地化、受控運算模型也擴展到機器人領域。DGX Station 為機器人團隊提供專用的運算資源,用於後訓練、模擬和評估,縮短迭代週期,無需等待共享基礎設施。

NVIDIA 發布了三個開源參考工作流程,將 GPT-6 Astra、NVIDIA Isaac Lab、Isaac Lab-Arena 和 Cosmos 引入 NVIDIA DGX Station。開發者可以利用這些工作流程,透過強化學習精煉 GR00T 1.7 模型,訓練靈巧的操作技能,並對 Cosmos 世界模型進行後訓練以生成合成資料。

NVIDIA Cloud Functions 將以搶先體驗版形式登陸基於 Linux 的 DGX Station。團隊可以在共享目錄中註冊本地模型端點,並透過一個與 OpenAI 相容的入口點來存取它們。開發者可以在不更改應用程式程式碼的情況下升級端點後方的模型,而團隊成員則可以在沒有直接機器存取權限的情況下使用共享模型。這將 DGX Station 轉變為團隊的本地受控推論服務。

DGX Station 將本地迭代引入 AI 工廠開發。在 GTC Berlin 的展場上,NVIDIA 預覽了在 DGX Station 上運行的 DSX OS,用於在完整基礎設施可用之前模擬 AI 工廠操作。另一個演示將展示 DGX Station 系統如何為 30 多名軟體開發者提供本地 token 工廠的動力。

DGX Station 系統現已由 ASUS、Dell Technologies、GIGABYTE、HP、MSI、Supermicro 和 Exxact 出貨。DGX Station for Windows 系統預計將於今年稍後由 ASUS、Dell Technologies、GIGABYTE、HP、MSI 和 Supermicro 開始出貨。

推出 Recursive Flint,一款為 RTX Spark 優化的新型本地程式碼模型。今天,前沿 AI 實驗室 Recursive Superintelligence 發布了 Recursive Flint,這是一款專為快速、準確程式碼編寫而設計的本地大型語言模型(LLM)。

作為一個擁有 400 億參數、其中 25 億參數活躍的專家混合模型,Recursive Flint 在 64GB RTX Spark 上實現了每秒超過 220 個 token 的快速推論速度,並在 SWE-Bench Pro v2、Terminal-Bench 2.1 和 SWE-bench verified 等代理式程式碼基準測試中取得了頂尖分數。

Recursive Flint 是使用 Recursive 的 Eureka Machine 建構的,這是一個用於大規模自動化 AI 研究的系統。它自動化了完整的研發循環:提出想法、實作、運行實驗驗證想法,並利用結果決定下一步嘗試什麼,從而創建了專門的核心,在不改變模型權重的情況下,將 Flint 在 RTX Spark 上的生成速度提高了 55%。

開發者可以在 Hugging Face 上以 Apache 2.0 許可證下載其開放權重,並在 RTX Spark 和 DGX Spark 系統以及 GeForce RTX 和 RTX PRO GPU 上運行該模型。開發者還可以利用 NeMo Automodel 進行監督式微調(fine-tuning)和低秩適應(LoRa),以及使用 NeMo RL 進行群組相對策略優化,對模型進行後訓練。

新模型提供零日支援。NVIDIA 也為 NVIDIA Nemotron Bolt E4B 4B、GLM、DeepSeek、Qwen、MiniMax、Liquid AI 的 LFM2.5-24B-A2B,以及 FLUX.3 Klein 擴散模型增加了零日模型支援。

Nemotron Bolt E4B 4GB 將自然對話和多輪代理技能整合到僅 4GB 記憶體中,為 NVIDIA GeForce RTX GPU、NVIDIA Jetson 裝置以及 RTX 和 DGX Spark 上的快速本地語音助理、互動式遊戲角色和嵌入式介面提供動力。Bolt E4B 4GB 將於 10 月 23 日星期五發布。

Black Forest Labs 的 FLUX 3 Image Klein 是一個擁有 56 億參數的開放權重圖像模型,用於生成和編輯。經過 NVIDIA 優化的版本使其能在僅 8GB VRAM 的 GeForce RTX GPU 上運行,並在 RTX 5090 GPU 上約四秒內創建一個 1 百萬像素的圖像。

MiniMax M3.1 Flash 是一款專為 NVIDIA DGX Station 和 DGX Spark 建構的新型開放模型,將長上下文 AI 帶到桌面。Liquid AI 的 LFM2.5-24B-A2B 是一個開放權重推論模型,每個 token 僅啟動其 240 億參數中的 20 億,使其足夠快,可以直接在個人電腦上運行私有的、工具呼叫的 AI 代理。

此外,NVIDIA 還發布了一系列針對本地 AI 硬體記憶體效率優化的模型檢查點,使前沿級開放模型在運行時仍有足夠記憶體用於 KV 快取。每個檢查點都經過量化,同時保持接近全精度準確度,例如在單一 DGX Spark 128GB 或 RTX PRO 6000 上運行 Qwen3.8-Flash-Next-FP4-Local,以及在兩個系統上運行 GLM-5.3-Flash-FP4-Local。

開發者可以在零日使用 NeMo AutoModel 在 DGX Spark 和 RTX Spark 上進行後訓練,並提供 Nemotron Bolt E4B、Flux 3 Image Klein 等的範例配方。

加速 AI 推論。NVIDIA 持續與 llama.cpp 和 vLLM 開源社群合作,以加速本地硬體上的代理式工作負載。

在 llama.cpp 中,針對 Qwen 3.8 Flash Next 的 MTP 新型推測解碼支援,使 NVIDIA RTX PRO 6000 Blackwell 上的端到端代理任務速度提升高達 1.4 倍。

在 vLLM 中,更快的推測解碼和針對 Qwen 線性注意力層的新 FlashInfer 預填充核心,使 DGX Spark 上使用 Qwen3.8 27B 的代理任務速度提升高達 1.3 倍。在 DGX Station 上,GLM 5.3 Flash 的吞吐量提升高達 1.2 倍。

請參考 NVIDIA 的本地 AI 推論配方,以嘗試這些最新的優化。請在 X、Instagram、TikTok 和 Facebook 上追蹤 NVIDIA RTX Spark,並訂閱 NVIDIA 本地 AI 電子報以獲取最新資訊。在 LinkedIn 和 X 上追蹤 NVIDIA Workstation。請參閱有關軟體產品資訊的通知。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 NVIDIA Blog 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。