編者按：本文為 Nemotron Labs 部落格系列文章之一，該系列探討最新的開放模型、資料集與訓練技術如何協助企業在 NVIDIA 平台上建構專屬的 AI 系統與應用程式。每篇文章都將重點介紹如何實際運用開放技術堆疊，在生產環境中提供真正的價值，從透明的研究協作工具到可擴展的 AI 代理。

企業有許多強大的模型可供選擇。真正的考驗在於，企業所建構的 AI 是否能獨特地滿足其業務需求，包括改善工作流程、利用領域知識，並超越對準確性和信任度的標準。

越來越多時候，AI 的競爭優勢來自於組織如何利用現有模型進行建構，而非僅僅是選擇哪一個模型。

NVIDIA Nemotron 等開放模型專為客製化而生，旨在協助企業與國家建構可控、可信賴並符合其需求的 AI。

從使用 AI 到擁有智慧

專用型 AI，例如自主代理與應用程式，是透過客製化的開放模型建構而成。這些代理旨在出色地完成特定任務，因為所使用的模型是根據專有知識進行微調，並針對實際業務成果進行評估。

這需要存取模型本身。封閉模型雖然能推動技術前沿並持續拓展通用智慧的界限，但也限制了企業可以檢查、微調和改進的範圍。開放模型則消除了這一障礙，提供完整的擁有權和控制權。

最有效的代理式 AI 應用程式是模型系統，其中開放模型與領先的前沿模型協同運作，各自發揮其最佳功能。高效能的推理模型可以處理複雜的規劃，而較小的模型則執行專門任務。這讓企業能夠調整推理成本、提高特定任務的準確性，並在工作流程演進時保持彈性。

企業可信賴的客製化

開放模型賦予企業封閉模型無法提供的東西：完全的控制權，可以根據業務需求客製化、檢查和改進 AI。公開基準測試衡量的是通用能力，但針對業務的特定評估則讓團隊能夠根據自己的資料、工作流程和準確性定義進行測試，並從中改進。

例如，在醫療保健和法律等行業中，錯誤答案的代價很高，這些行業的團隊處理敏感資料並面臨嚴格的準確性要求。這些領域的組織必須了解模型的訓練方式、其性能表現，以及在必要時改進它的能力。

透過開放模型，團隊可以檢查其應用程式，根據自己的標準執行私人評估，並建立針對其工作流程微調的強化學習環境。無需透過第三方路由其專有資料。

各行各業的公司已經開始針對其領域專門化 Nemotron 模型：

Abridge 正在客製化 Nemotron，以建構第一個專為臨床對話設計的基礎模型。

Glean 開發了 Waldo，這是一個代理式搜尋模型，它將 Nemotron 與更大的封閉模型配對，以顯著降低延遲並減少 token 使用量來提供企業搜尋功能。

H Company 透過在專有電腦使用資料上對 Nemotron 3 Nano Omni 進行後訓練，建構了 Holotron 3 Nano，在電腦任務基準測試 OSWorld-Verified 上實現了超過 76% 的準確度，並以極低的成本媲美其他領先的前沿模型。

Harvey 在其法律基準上對 Nemotron 3 Ultra 進行後訓練，達到了前沿級別的準確度，在複雜的法律任務上媲美領先的封閉模型，且每次運行的成本至少降低了 10 倍。

Heidi Health 正在臨床文件中提供前沿品質的成果，而無需前沿規模的運算資源。

YTL AI Labs 為馬來西亞語後訓練了一個 Nemotron 模型，將本地客製化的 AI 交到馬來西亞開發者社群手中，以進一步提升其 AI 能力。

微調環境與最佳運行成本

客製化可以提高準確性。當模型針對特定框架或領域進行微調時，它們的運行效率也會更高。

NVIDIA NeMo 開放函式庫套件加速了模型的客製化與評估，同時也優化了代理和治理。

Prime Intellect 和 Unsloth 等合作夥伴已經為在 Nemotron 上建構後訓練管線的企業實現了 AI 客製化，使得大規模運行專用型 AI 成為可能。

LangChain 為 Nemotron 3 Ultra 微調了其 Deep Agents 框架，調整了提示詞、工具和中介軟體，無需重新訓練模型，並在開放模型中實現了頂級的代理準確度，每次運行的成本比領先的封閉替代方案低約 10 倍。

這些成本優勢也延伸到基礎設施，以實現最佳的可擴展性。透過在 NVIDIA Blackwell 平台上對 Nemotron 進行後訓練，Arcee AI 實現了每百萬輸出 token 約 90 美分的推理成本，比同類型的封閉前沿模型便宜約 20 倍，同時在 PinchBench 上排名第二，並保持完全開放權重。

成本節省使得更廣泛的實驗、更多的部署和更快的迭代成為可能。

在開放基礎上建構生態系統

從 AI 採用到 AI 擁有的轉變正在進行中。NVIDIA Nemotron 聯盟正協助將開放模型開發轉變為生態系統的共同努力，匯集模型建構者和開發者，透過共享資料、評估和領域專業知識來改進 Nemotron。此外，黑客松提交的作品和社群貢獻也為各行業產生了可重複使用的驗證資產。

建構者們正在將 Nemotron 加入他們的 AI 系統，證明其價值並分享成功經驗。這個基礎是完全開放的。

欲了解更多關於 NVIDIA Nemotron 開放模型並試用它們，請造訪 build.nvidia.com。