跳到主要內容
maxstudioNews
產品Simon Willison約 2 分鐘

為 AI 程式代理打造外部沙盒,強化程式碼執行安全

這篇文章探討了為 AI 代理程式碼執行提供外部沙盒的新方法,旨在提升本地模型執行的安全性,避免因錯誤或提示詞注入攻擊造成損害。作者與 AI 研究實驗室 Prime Radiant 合作,發布了三種沙盒伺服器實作,展示了這種模式。這些沙盒允許控制代理程式碼的網路通訊,並提供憑證替換機制,進一步強化安全性。

為 AI 程式代理打造外部沙盒,強化程式碼執行安全
圖片來源:Simon Willison

2026 年 11 月 17 日 - 連結部落格。

我一直在探索為代理執行的程式碼提供沙盒的新方法,重點是讓本地模型能更安全地試運行,而不必擔心錯誤或提示詞注入攻擊可能導致它們在機器上執行破壞性操作。我與 Prime Radiant 合作進行這個專案,Prime Radiant 是 Superpowers 及其他專案背後的 AI 研究實驗室。

我在 Prime Radiant 部落格上的文章介紹了外部沙盒模式,其中由代理執行的程式碼在專用的沙盒內運行,而代理本身則存在於沙盒之外。為了展示這種模式,我們發布了三種沙盒伺服器實作:

external-sandbox-v86 運行一個 Node.js 伺服器,然後使用 v86 在 WebAssembly 內部運行 Alpine Linux。external-sandbox-container 是一個 Python 網路伺服器,它在 Apple Containers 實例中運行 Alpine Linux 沙盒。

external-sandbox-quicksand 則是另一個 Python 網路伺服器,這次它使用 Microsoft 的 Quicksand 沙盒函式庫,該函式庫將 QEMU 和 Alpine Linux 打包在一個 Python 套件中!

這些實作都提供相同的 localhost API。您可以配置 Pi、Claude Code 或 Codex,讓它們在需要執行程式碼時向該沙盒發送 API 呼叫。這些沙盒還包含一個可選的 HTTP/HTTPS 允許清單代理,讓您可以精確控制代理程式碼被允許與哪些主機通訊,此外還有一個憑證替換機制,可以在不與代理共享機密的情況下進行身份驗證的 API 呼叫。以下是您可以在沙盒運行時重新配置該代理的使用者介面:

我持續著迷於安全運行不受信任程式碼的挑戰。這種外部沙盒模式提供了一種巧妙的方法來嘗試不同的解決方案。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 Simon Willison 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。