Nvidia 宣布推出全新的 Personal AI Router (PAIR),這是一款免費工具,能將您家中的電腦同步起來,以處理本地 AI 推論任務,並支援 Ollama 和 LM Studio 等工具。儘管名稱可能令人誤解,PAIR 並非硬體路由器,而是由 Nvidia 開發的開源軟體。

PAIR 的主要功能是探索網路中相容的個人電腦,將它們連接起來,並準備好執行代理式工作流程的運算。雖然相容設備主要是 Nvidia GeForce GPU(PAIR 支援 RTX 20 系列及更新的顯示卡,以及 RTX Pro GPU 和 DGX Spark 系統),但 Apple 的 M4 晶片或更新版本也將支援。

關鍵在於 PAIR 會在您家中的系統閒置時使用它們,以避免干擾其他任務。這種分散式的電腦系統可以平行運作,處理大量的運算請求,這對於將複雜任務分解成更小作業的代理式工作流程將非常有幫助。這應該能防止單一 GPU 產生嚴重的瓶頸,Nvidia 表示 PAIR 可以適應設備加入或離開網路的情況,即使使用者在桌上型電腦上開始玩遊戲也能應變。

在一次媒體簡報中,Nvidia 產品經理 Seth Schneider 描繪了一個充滿強大電腦的家庭,這些電腦可以透過 PAIR 發揮更大的作用:一位父親擁有一台 Nvidia RTX Spark 筆記型電腦和一台 DGX Spark 桌上型電腦,一位母親擁有一台 RTX 5090 筆記型電腦,女兒有一台遊戲桌機,兒子則有一台 MacBook Pro。

在這種極端情況下,Schneider 估計這個家庭約有 165 兆次浮點運算(teraflops)的未充分利用運算能力。他表示,即使考慮到一般美國家庭的電費成本,這「確實是今天家中閒置的免費 token 寶庫」。

Nvidia 表示,PAIR 透過六位數代碼配對所有設備來確保安全,然後透過 mTLS (Mutual Transport Layer Security) 保護通訊通道,建立電腦之間雙向信任的加密通訊線路。Nvidia PAIR 的測試版現已推出,支援 Windows、Linux 和 macOS 作業系統。

如果您家中已經有一些強大的電腦,並且想運行自己的本地 AI,PAIR 看起來確實是一個巧妙的解決方案。當我詢問 PAIR 究竟是為誰設計的,以及何種設定才算實際時,Schneider 表示 Nvidia 預計大多數 PAIR 使用者會擁有一台 MacBook 或 Windows 筆記型電腦,以及一台遊戲 PC。

除了 PAIR 之外,Nvidia 還宣布三款主要的 AI 代理程式應用程式,Perplexity Portable Computer、Hermes Agent 和 OpenClaw,將在 Windows 上提供簡化的本地設定,支援 Nvidia GPU。這些新的設定體驗旨在讓使用者只需點擊幾下即可啟動並運行本地代理程式,減少了必要的初始手動配置。