大家好,我是 Omnara (https://omnara.com) 的 Kartik。我們正在開發一個用於執行持久性 AI 代理的開源 API。透過 API 呼叫即可建立代理,Omnara 會負責執行代理迴圈、提供沙盒環境供代理執行指令,並處理機密資訊、權限和 RBAC。
每個代理的狀態都儲存在 Postgres 資料庫中,因此代理即使重新啟動也能保持狀態,且閒置時不產生費用。您可以透過 API 向代理傳送訊息並串流其事件。
Omnara 推出一個開源 API,旨在提供持久性 AI 代理的運行環境,作為 Claude Managed Agents 和 OpenAI Agents API 的自架替代方案。此平台允許用戶在自己的伺服器上部署,並使用自訂模型,代理狀態儲存在 Postgres 中以確保穩定性。其獨特的架構設計,將代理迴圈與指令執行分離,並支援多機器協作,提升了代理的彈性和可擴展性。
大家好,我是 Omnara (https://omnara.com) 的 Kartik。我們正在開發一個用於執行持久性 AI 代理的開源 API。透過 API 呼叫即可建立代理,Omnara 會負責執行代理迴圈、提供沙盒環境供代理執行指令,並處理機密資訊、權限和 RBAC。
每個代理的狀態都儲存在 Postgres 資料庫中,因此代理即使重新啟動也能保持狀態,且閒置時不產生費用。您可以透過 API 向代理傳送訊息並串流其事件。
您可能還記得我們早期曾開發一款用於遠端控制 Claude Code 和 Codex 的手機應用程式。當時,代理執行環境(harness)是在筆記型電腦上運作,我們必須建立一個中繼來連接,且筆電關閉時代理就會停止;若要將其移至雲端沙盒,則需要在不同機器之間同步程式碼和代理狀態。
我們認為遠端控制本地代理並非人們執行代理的終極方式。因此,我們開發了一款新產品,讓代理在雲端運行,任何用戶端都可以透過 API 與其通訊,並且它仍然可以使用您的筆記型電腦作為其執行機器之一。
Anthropic 和 OpenAI 也在開發類似的託管版本,例如 Claude Managed Agents 和 OpenAI Agents API。而 Omnara 則是一個開源版本,您可以將其部署在自己的伺服器上,並使用自己的模型。它本質上是一個類似 opencode 或 codex 伺服器的代理執行環境(harness server),但具備持久性、可擴展性,並提供常見的執行環境功能,例如檔案和 shell 工具、子代理、壓縮、權限提示詞、MCP、技能和記憶體等。
以下是我們在開發過程中做出的一些有趣的架構決策:大多數代理執行環境,例如 Claude Code、Codex、OpenCode、Pi 和 Goose 等,都是在一個長時間運行的程序中執行代理迴圈,並將日誌儲存在 JSONL 或 SQLite 檔案中。
在 Omnara 中,日誌是 Postgres 中的一個僅限附加的事件日誌,輸入、模型輸出和工具呼叫都以類型化的資料列儲存在各自的資料表中。代理迴圈則在控制平面的無狀態工作者(stateless workers)上運行。一個工作者執行迴圈的一個迭代,無論是模型呼叫還是其產生的工具呼叫,然後釋放代理並將下一個迭代放入 Postgres 的佇列中。
任何空閒的工作者都會接手,因此代理迴圈的每個迭代都可以在不同機器上的不同程序中運行。
每個迭代的結果都會在一個交易中提交,因此模型輸出、其工具呼叫、使用情況和下一次喚醒會一併儲存,或者完全不儲存。如果一個工作者在迭代中途崩潰,則不會提交任何內容,其租約會過期,然後由另一個工作者重試。等待用戶、工具或重試的代理不會佔用工作者,因此一個工作者可以多工處理數千個代理。
此外,與其他執行環境不同的是,執行工作者(即我們的代理迴圈)的機器並非代理執行指令的機器。相反地,任何具備網路連線的 macOS 或 Linux 機器,例如您的筆記型電腦或任何雲端沙盒,都可以運行一個小型守護程式(omnarad),該程式會向 Omnara 建立連線,因此不需要任何開放的入埠連接埠。然後,代理就可以獲得該機器的工具,例如執行指令或編輯檔案。一個代理可以連接任意數量的機器。
我喜歡做的一件有趣的事情是,我將我的筆記型電腦和一個雲端沙盒連接到同一個代理。這樣,當我的筆記型電腦開機時,我的代理就會在那裡編寫程式碼,我可以與它互動,並且我經常讓它推送到 Github。當我關閉筆記型電腦時,我的代理會發現筆記型電腦離線了,然後將最新的變更拉取到其雲端沙盒中,並在那裡繼續工作。
整個程式碼庫都在 https://github.com/omnara-ai/omnara 上開源,並且可以自架,甚至可以在單一機器上透過 Docker Compose 部署。您也可以使用託管版本,網址是 https://omnara.com。歡迎分享您的想法!
覺得值得一看?分享給朋友。
以上為 AI 自動翻譯導讀。原文版權歸 Hacker News (Show HN) 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。
43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。