NVIDIA 擴展 Nemotron 家族，推出 Super VL 與 Bolt 模型，AI 應用橫跨資料中心至邊緣裝置

NVIDIA 今日發布 Nemotron 3.5 Super VL，這是一個擁有 1200 億參數的開源模型，能為專業的常駐代理提供最快的任務完成速度和最高的準確性。

同時推出的還有兩款新的邊緣模型：Nemotron 3.5 Bolt 74B-A9B 24GB，它針對本地代理工作負載進行優化，平衡了智慧與每 GB 的速度；以及 Nemotron 3.5 Bolt E4B 4GB，則針對快速對話式代理的每 GB 智慧進行優化。

Super VL 和 Bolt 74B-A9B 現已上市，而 Bolt E4B 將於 10 月 23 日推出。

這三款開源模型共同涵蓋了從大型企業伺服器到邊緣裝置和本地硬體的所有代理部署範圍。

任何希望在 NVIDIA 基礎設施上運行代理的組織，現在都能為其層級找到一個優化過的開源模型，無需在功能和部署性之間做選擇。

Super VL 和 Bolt 加入 Nemotron 家族，與 Lightning 和 Ultra 並列。

Lightning 於八月發布，負責高吞吐量工作負載；Ultra 處理最困難的推理任務；而 Bolt 則將智慧帶到邊緣。

Super VL 是與 Nemotron Coalition 合作開發的，在多模態代理任務上提供了領先的準確性，包括指令遵循、工具使用、多步驟業務流程和視覺理解。

其準確性可與 NVIDIA 最大的推理模型媲美，但參數數量約為其五分之一。

Nemotron 3.5 Super VL 在同類模型中為高容量代理工作流程提供了前沿級別的智慧。

作為同類中最快的開源代理模型，它比次優模型快五倍，有助於企業代理更快地完成跨越數天或數週的高容量任務。

Nemotron 3.5 Super VL 在 Artificial Analysis Intelligence Index 排行榜上，與同類其他模型相比，吞吐量提高了五倍。

與閉源的前沿模型不同，組織可以在自己的資料上對 Super VL 進行後訓練，部署在自己的基礎設施上，並監督他們所建立的一切。

Bolt 74B-A9B 24GB 旨在利用原生 2 位元量化技術，在 NVIDIA RTX/DGX Spark 上本地運行日常代理任務，使其能容納在 24GB 記憶體中並與其他應用程式同時運行。

相較於記憶體佔用量相似的其他模型，它在智慧和速度之間提供了良好的平衡：足夠聰明以完成大多數工作，但比最聰明的模型快得多。

藉由 Bolt 74B-A9B 24GB，使用者可以將專案委託給流行的本地代理工具，從網路研究到寫作再到程式碼偵錯，所有這些都無需將工作負載發送到雲端。

它在 PinchBench 上是同類中排名第一的開源模型，在 BrowseComp 上則是排名第二的開源模型。

Bolt E4B 4GB 專為 GeForce RTX、Jetson 和 RTX/DGX Spark 上的實體和對話式代理而建構。

它結合了自然對話和多輪代理功能，為快速的本地語音助理、互動式角色和嵌入式介面提供動力。

各行各業的數十個組織正在自己的資料、工具、政策和工作流程上對 Super VL 進行後訓練，以提高其在定義代理部署的專業任務上的準確性。

Scale AI 為 Skydance 的供應商信用財務代理和 EY 的併購盡職調查代理進行了模型後訓練。

AfterQuery 為 Hebbia 客製化了該模型，用於信用協議分析；AI21 和 Alice 為網路安全攻擊彈性對模型進行了後訓練。

Mercor 在 APEX-SWE 編碼基準上對模型進行了後訓練，用於規劃、編寫和偵錯程式碼的編碼代理。

ModelScope 透過其 ms-swift 框架，讓開發人員能夠為專業的多模態應用程式微調該模型。

其他客製化 Nemotron 3.5 Super VL 的組織包括：Ramp 用於金融文件智慧；Dream 用於主權 AI 驅動的網路安全研究和漏洞分析；Lila Sciences 用於科學發現和搜尋；以及 R1 用於醫療理賠分析和收入週期管理。

TrainLoop 使用 Nolla 的皮膚科資料對模型進行了後訓練，Nolla 剛成為第一家獲准使用 AI 開立初始患者處方的公司。

整合 Nemotron 3.5 Super VL 的軟體平台公司包括：

Atlassian，用於跨 Jira 和 Confluence 等應用程式的代理式搜尋任務。

CrowdStrike，正在為企業安全中的代理式藍隊作業客製化模型。

Dassault Systèmes，為工程設計和模擬提供動力。

Perplexity，用於 Perplexity Search 和 Computer 中的搜尋和代理任務。

Salesforce，正在客製化 Nemotron，透過 Missionforce Operations 在安全的客戶環境中，為數位化和自動化複雜政府工作流程的 AI 代理提供動力。

Synopsys 的半導體設計驗證軟體與該模型互通。

Nemotron 3.5 Super VL 的視覺語言優勢針對代理在實踐中遇到的內容：光學字元辨識、表格、圖表和視覺文件中的結構化資訊。

它處理網頁、提取文字、讀取圖形和圖表，並從中返回洞察。

這也適用於代理常用處理的 PDF 和其他文件。

Nemotron 3.5 Super VL 理解圖像、網頁和 PDF，並根據該理解採取行動。

將文字和視覺理解結合在一個模型中，意味著代理無需在不同的系統之間路由任務，上下文會隨著工作從文件到資料再到決策而貫穿。

開放性和可客製化性相互強化。該模型附帶開源權重、開源資料集和訓練配方。

控制權是雙向的。組織可以根據其安全和資料駐留要求，在任何地方運行該模型。

他們還可以選擇採用一個可以適應的模型，而不是受制於供應商限制的模型。

例如，在保險業中，客製化的代理可以重複掃描理賠以尋找詐欺標記。

在金融服務業中，代理可以審查信用評分並根據組織自己的貸款標準標記活動。

模型保留在本地，資料保持私密。

客製化透過 NVIDIA NeMo、基於 Python 的管線和開源資料集提供支援。

Nemotron 3.5 Super VL 經過約 26 兆個 token 的預訓練和持續預訓練，然後再用約 380 萬個樣本和數十個環境中的強化學習進行後訓練。

NVIDIA 還在 Hugging Face 上發布了涵蓋代理工具使用、金融、指令遵循、長上下文、公平性和視覺語言理解的開源資料集，以及 NeMo Gym 中的強化學習環境。

NVIDIA NIM 將模型打包成一個生產就緒的微服務，具有性能優化、經過驗證的配置和企業級支援，每兩週更新一次安全修補程式和性能改進。

透過在 NVIDIA Dynamo 上運行模型，組織可以服務多達八倍的使用者，同時將延遲降低 85%。

Nemotron 3.5 Super VL 現已在 Hugging Face、Open Router、ModelScope 社群和作為 NVIDIA NIM 提供。

Nemotron 3.5 Super VL 運行在 NVIDIA 的完整硬體堆疊上：在 DGX Spark、DGX Station、RTX PRO 和 RTX 系統上實現桌上型本地智慧，在邊緣的 NVIDIA Jetson 上，以及跨資料中心和雲端環境。

Nemotron 3.5 Bolt 74B-A9B 24GB 現已在 Hugging Face 上提供，支援 llama.cpp、Ollama、LM Studio、Unsloth 和 vLLM。

它專為 10 月 16 日上市的 NVIDIA RTX Spark 筆記型電腦而建，也運行在 GeForce RTX PC、DGX Spark、DGX Station 和 RTX PRO 工作站上。

下載開源權重，使用 NVIDIA NeMo 探索客製化資源，或閱讀技術部落格以獲取完整的架構分解。

訂閱 NVIDIA 新聞、加入社群並在 LinkedIn、Instagram、X 和 Facebook 上關注 NVIDIA AI，以獲取有關代理、NVIDIA Nemotron 等的最新資訊。

探索自學影片教學和直播。

請參閱有關軟體產品資訊的通知。