代理式 AI 正走向實體應用。NVIDIA 在週二的 COMPUTEX 展會上,宣布 NVIDIA Jetson 平台將支援 NVIDIA JetPack 7.2 和 NVIDIA NemoClaw。JetPack 7.2 帶來了代理式 AI 能力、Yocto 專案支援、NVIDIA Jetson Orin 上的 NVIDIA CUDA 13,以及 Jetson AGX Orin 32GB 模組顯著的效能提升,並支援 NVIDIA Jetson Thor 上的多實例 GPU (MIG) 功能。
NVIDIA 的 Asier Arrnaz 展示了 Build-a-Claw 如何將 AI 帶到邊緣,這是一個在 NVIDIA Jetson 上運行的個人化、隨時在線的助理。此次發布恰逢 GTC 台北 Build-a-Claw 活動,將 GTC 聖荷西廣受歡迎的實作活動帶到台灣這個全球頂尖的科技中心之一。
此次發布將 NVIDIA 的代理式 AI 框架 NemoClaw 部署到生產級的 Jetson 堆疊上,將代理式 AI 從伺服器和工作站帶入實體世界,應用於機器人、檢測和工業自動化等領域。NVIDIA 機器人與邊緣運算副總裁 Deepu Talla 表示:「代理式 AI 已經到來,Jetson 的可程式化能力和高效能讓開發者能夠立即在邊緣生產環境中部署實體 AI 代理。
憑藉專為代理式開發和工作流程設計的技能,開發者可以在記憶體最佳化的平台上加速產品上市時間、降低總體擁有成本並大規模部署。」Jetson 已經是一個多代平台,包括 Orin、Thor 及未來產品,為機器人、自主系統、工業檢測和醫療設備中的邊緣 AI 提供動力。
JetPack 7.2 在此基礎上進行建構;NemoClaw 則進一步擴展其能力。此次發布包含三個層次。底層是 JetPack 7.2,提供作業系統 (OS)、運算和確定性效能。中間是新的代理技能層,用於自動化開發者任務。頂層則是 NemoClaw。
JetPack 7.2 為 Jetson 軟體基礎帶來了重大升級。基於 Yocto 的作業系統支援為工業客戶提供了更精簡、更可客製化的 Linux 基礎,這對於記憶體受限的部署至關重要。Jetson Orin 上的 CUDA 13 將最新的運算堆疊帶到現有設備。
Jetson Thor 上的 MIG 加上即時核心,讓開發者可以為確定性工作負載保留專用的 GPU 資源,例如不能因不相關的 AI 推論而暫停的機器人感知系統。Jetson AGX Orin 32GB 的 AI 運算效能也提升至 241 TOPS,比其原始規格高出 20%。
中間層,代理技能,加速了建構基於 Jetson 系統本身的工作。Jetson 代理技能現在包括 Linux 客製化、記憶體最佳化、模型基準測試以及類似的開發者任務。這些技能現在可作為代理可部署的技能,根據 NVIDIA 文件和設計指南開發。
結果是:過去需要數週才能完成的任務,現在只需數天即可解決。在頂層,NemoClaw 可透過單一指令部署到 Jetson。這種結合將代理式 AI 帶到生產級的機器人與視覺 AI 堆疊上,加速工業系統的任務自動化。開發者可以進一步利用 NVIDIA Metropolis VSS 藍圖技能,加入視覺推理代理,使其能夠觀察、解釋並根據所見採取行動。
代理式 AI 已隨 Jetson 平台到來。Jetson 平台已廣泛部署於機器人、工業自動化、無人機、醫療設備、農業機械、人形系統等領域。Solomon 利用 NemoClaw 協調人形機器人上的 AI 代理。Solomon 利用 NVIDIA NemoClaw 協調人形機器人上的 AI 代理,將推理、感知、感測器融合、移動和操作整合到單一工作流程中。
藉由 Solomon 的主動感知技術,並由 NVIDIA 的開源基礎模型提供支援,機器人能夠理解任務、最佳化拾取定位並動態適應。所有這些都使得在複雜環境中實現可靠的自主操作成為可能。Advantech 正在其製造設施內部建構並部署代理式工廠大腦,利用 NVIDIA NemoClaw、NVIDIA Nemotron 3 和 NVIDIA Jetson Thor 實現 AI 原生營運。
該平台自動化機器人車隊管理、智慧缺陷檢測和自主決策,以推動下一代工業營運。這些建構已在各行各業中出貨。Rebotnix 製造具備代理式推理能力的智慧城市攝影機,以實現更快速的城市級決策。Spingence 建構製造缺陷代理,透過分析和知識推理來識別根本原因並提出流程改進建議。
ANIWEAVE 和 Avalanche Computing 正在合作,利用 AI 驅動的對話代理將房地產空間轉變為沉浸式 3D 導覽體驗。更多 AI,更少記憶體。圖片由 SandStar 提供。SandStar 利用 NVIDIA Jetson Orin NX 和 NemoClaw 為 AI 自動販賣機和智慧零售營運提供動力,涵蓋 AI 視覺、大型語言模型 (LLM) 驅動的互動、標準操作程序監控和商店最佳化,業務遍及 30 多個國家。
SandStar 報告稱,透過實現近 40% 的記憶體最佳化,他們從 16GB 設備遷移到 8GB 設備,顯著降低了部署成本,同時保持了高效能。NoTraffic 開發 AI 驅動的智慧交通管理系統,分析即時交通狀況並動態最佳化號誌運作。NoTraffic 報告稱,他們透過靜態編譯和目標核心剪枝最佳化了 CUDA 函式庫的開銷。
這些最佳化將記憶體使用量減少了 29%,提高了效率並簡化了感知堆疊,以實現更快的即時推論。LOVOT 陪伴機器人的製造商 GROOVE X 正在 Jetson 模組上使用多種 AI 加速器,以分擔 CPU 和 GPU 的工作負載並減少記憶體佔用。
基於 Yocto 的 JetPack 7.2 已投入生產。Hexagon Robotics 整合 Jetson Thor 以打造更安全的人形機器人。Hexagon Robotics 正在整合 NVIDIA Jetson Thor,以即時 AI、高速感測器處理和多模態資料融合,為更安全、更自主的人形機器人提供動力。
結合基於 Yocto 的作業系統客製化,以提高可重現性和安全性,這些人形機器人能夠在製造、物流和建築等嚴苛環境中更可靠地運作。Zipline 在其自主送貨無人機中使用 NVIDIA Jetson Orin NX,以實現即時感測器融合、環境感知和安全導航,用於全球快速的醫療、食品和零售配送。
Zipline 使用 Yocto 建構其客製化作業系統,該系統旨在實現高效能的機載 AI 處理,同時最佳化可靠性、效率和更低的記憶體佔用。1X (Neo 人形機器人的製造商) 和 Universal Robots 正計劃在其生產部署中採用基於 Yocto 的 JetPack 7.2。
Yocto 生態系合作夥伴。Balena、Konsulko Group、Neurealm、Peridio、RidgeRun 和 Wind River 提供 Linux 發行版產品、工程服務和長期支援,協助客戶更快地出貨生產級的 Yocto 部署。
AAEON、ASUS、Avermedia、Connect Tech 和 YUAN 已在其生產邊緣運算系統中驗證 Yocto 作業系統,以加速客戶部署。未來展望。NemoClaw 最初在資料中心運行。現在,它已應用於零售商店、工廠車間的人形機器人、繁忙路口的交通系統。
實體 AI 代理的時代才剛開始。開發者可以從 Jetson 軟體頁面開始他們的代理式 AI 之旅。觀看 NVIDIA 創辦人暨執行長黃仁勳的主題演講,並在 NVIDIA GTC 台北了解更多資訊。請參閱有關軟體產品資訊的通知。



