電信業者 AI 策略轉向：開放模型成核心關鍵

電信業者正日益將其 AI 策略建立在開放模型之上，其原因不僅僅是成本考量。開放模型賦予電信業者在其最關鍵的工作負載中，從自主網路到客戶服務，都能信任、控制並客製化 AI 的能力。

NVIDIA 最新的《電信業 AI 狀況報告》反映了這一轉變，有 89% 的受訪者表示開源模型和軟體對其公司的 AI 策略至關重要。對電信業者而言，開放模型的戰略價值體現在五個方面：

首先，它們以較低的成本擴大了對尖端智慧的存取，讓電信業者能將封閉模型保留給能創造最大價值的工作負載。獨立基準測試，例如 Artificial Analysis Intelligence Index v4.3.2，顯示領先的開放模型在要求嚴苛的推理、程式編碼、科學和代理式工作負載方面正變得更具競爭力。

其次，它們支援電信業特定的客製化，透過開放權重和訓練配方，電信業者可以使用網路、客戶和產業數據對其自身營運進行微調。

第三，它們透過讓電信業者對模型產物和行為有更高的可見性和控制權，從而實現可信賴的 AI，使模型能夠根據法規和業務政策進行評估、調整和治理。

第四，它們實現了彈性、安全的部署：團隊可以調整和優化開放模型，使其在公有雲、私有基礎設施和邊緣環境中運行。

第五，它們為電信業者創造了機會，透過託管和微調開放模型，向企業和政府客戶提供在地化的 AI 服務。

開放基礎，為電信營運而調校。NVIDIA Nemotron 系列開放模型提供針對代理式工作流程優化的尖端推理效能，以及用於語音應用的語音功能，並附帶開放權重、訓練數據和配方。

SoftBank Corp. 展示了電信業者如何利用開放模型作為基礎，開發並持續推進其電信專屬的 AI 能力。

SoftBank Corp. 首席研究員兼 SB Telecom America 資深副總裁 Rajeev Koodli 表示：「開放模型讓 SoftBank Corp. 能夠在全球基礎模型的快速進展基礎上，運用我們多年來累積的網路知識和營運專業。

我們正廣泛使用開放基礎，包括 NVIDIA Nemotron 模型及其他模型，來開發我們的 SoftBank 大型電信模型，並持續針對網路營運、設計和整體管理等電信專屬應用案例進行推進。」

此外，NVIDIA 正與合作夥伴協作，協助將開放模型轉化為電信 AI 的實用建構模組。

NVIDIA 宣布推出 300 億參數的 Nemotron 3 Large Telco Model (LTM)，該模型由 AdaptKey 針對開源電信數據集進行微調，以提高電信專屬任務的準確性。這為電信業者提供了一個開放的基準模型，能夠理解電信產業術語，並有效推論網路配置和客戶事件分類等電信營運工作流程。

為了協助電信業者使用其自身營運數據客製化 Nemotron 3 LTM 及其他開放模型，NVIDIA 發布了完整的「配方」，詳細說明了如何使用 NVIDIA NeMo 開源函式庫，將開放模型適應於電信業者特定的網路、客戶和程序，實現端到端的微調流程。

將開放模型擴展至生產工作流程。開放模型是關鍵的建構模組，但要將自主電信營運安全地導入生產環境，僅有模型是不夠的。

對於 AT&T 而言，模型選擇的價值在於使其靈活性與其業務優先事項保持一致並投入營運。

AT&T 首席數據與 AI 長 Andy Markus 表示：「在 AT&T，我們相信 AI 的未來並非選擇單一模型，而是智慧地將每個工作負載與效能、成本和控制的最佳組合進行匹配。開放模型對於這種方法至關重要，透過 NVIDIA，我們能夠以業務所需的規模、可靠性和治理，將這種模型選擇策略投入生產。」

電信業者需要能夠準備和保護其數據的管道，透過匿名化敏感記錄和生成保護隱私的合成數據集，以進行模型微調。他們還需要一個平台，能夠將開放模型轉化為受治理的自主代理式工作流程。

NVIDIA 提供了這個端到端平台，由 NVIDIA AI Enterprise 軟體和 NVIDIA Agent Toolkit 提供支援，涵蓋數據管道、開放模型、代理協調、安全運行時和模擬。

結合在這個平台各層級建立的強大合作夥伴生態系統，電信業者擁有一條清晰的道路，能將開放模型的優勢轉化為可投入生產的 AI 工作流程。

建立在地 AI 創新平台。隨著電信業者建立符合國家 AI 策略的 AI 基礎設施，開放模型為他們提供了基礎，以提供針對在地語言、產業、法規和數據治理要求量身定制的 AI 服務。

各國的電信業者可以針對在地語言和特定產業需求微調開放模型，並在其受信任的平台上託管開放模型，客戶可以直接使用或利用自己的數據和應用程式在其上進行開發。

對於印尼最大的電信業者之一 Indosat Ooredoo Hutchison 而言，這意味著透過其 Sahabat-AI 系列開源模型，建立反映該國語言和文化的 AI。

Indosat Ooredoo Hutchison 首席數據與 AI 長 Chirag Sukhadia 表示：「對於像印尼這樣的國家，開放模型的價值超越了存取強大 AI 的範疇。它關乎將這種智慧適應我們的語言、文化、數據和實際需求。Sahabat-AI 將此付諸實踐，以開放模型為基礎，建立理解印尼並可開發在地應用的 AI。

這不僅讓我們能夠採用 AI，還能圍繞它建立能力，並讓更多印尼人以自己的方式利用 AI 進行創造。」

深入了解 NVIDIA 的電信技術。