跳到主要內容
maxstudioNews
AI 自動化n8n Community約 3 分鐘

n8n 工作流程安全檢查:揭露 AI 代理的潛在危險操作

許多人擔心 AI 代理或網路鉤子工作流程可能在無人看管下執行危險操作。為此,作者開發了一個 n8n 工作流程,能分析匯出的工作流程 JSON,標示出可能執行金錢交易、發送郵件或刪除資料的「影響範圍」。它會根據潛在風險和防護措施給出評分,並提供改進建議,幫助使用者提升自動化流程的安全性。

n8n 工作流程安全檢查:揭露 AI 代理的潛在危險操作
圖片來源:n8n Community

社群中常有人擔心,AI 代理或網路鉤子工作流程可能在無人看管的情況下,悄悄地發送電子郵件、處理退款或刪除資料,且沒有任何前置防護措施。

為了解決這個問題,我開發了一個小型的 n8n 工作流程,它能分析匯出的工作流程,並回答一個關鍵問題:如果這個工作流程在無人監控下執行,可能會出什麼問題?以及有哪些防護措施?

你只需貼上任何工作流程的 JSON(透過「下載」→「複製到剪貼簿」),它就會回傳一份工作流程地圖。

這份地圖會標示出所有可能涉及金錢交易、發送郵件/訊息、刪除或寫入資料,或執行指令的節點為「影響範圍」,並將其前方的防護措施(如審核/等待、IF/過濾器、限制)顯示為「防護盾」。

它還會給出 A 到 F 的評分,並依嚴重性排序發現的問題,每個問題都附有「為何重要」和「如何修復」的說明。

針對 AI 代理,它會指出大型語言模型 (LLM) 在沒有人工審核和最大迭代次數限制下,可以觸及哪些工具。

目前,它會檢查以下項目(這些是程式碼節點中的確定性規則,無需 LLM 進行分析):沒有身份驗證的網路鉤子;寫入節點參數中的機密資訊(僅顯示為「已遮蔽」);從觸發器或代理可觸及的危險操作,且路徑上沒有防護措施。

此外,它還會檢查沒有人工審核和迭代限制的 AI 代理危險工具;沒有錯誤工作流程或錯誤觸發器;沒有重試或錯誤處理的 HTTP 請求;網路鉤子直接寫入支付/資料庫且沒有去重複機制;匯出中包含真實客戶資料的 pinData;沒有批次處理或等待的迴圈;使用 eval/child_process 的程式碼節點;以及孤立或已停用的節點。

其中包含兩個示範工作流程:一個是「高風險」的支援代理(使用 Gmail + Stripe 退款 + 資料庫刪除作為工具,沒有審核),評分為 F;另一個是「穩健」版本,具備人工審核、身份驗證、去重複和錯誤工作流程,評分為 A。

我在自己的工作流程上執行後發現,所有工作流程都只得到 C,因為我的網路鉤子沒有自己的身份驗證,而且我從未設定錯誤工作流程。這給我上了一課。

你可以試用看看(無需登入):n8n 工作流程安全檢查:X-Ray 影響範圍地圖。工作流程 JSON(匯入你自己的 n8n):https://daniele-michelin.com/assets/n8n/xray.json。

其運作原理是:網路鉤子 → 程式碼節點(驗證、規則、分層佈局)→ 可選的 LLM 呼叫以提供「先修復這三件事」的建議(即使沒有 LLM,工作流程仍可運作)→ 回應網路鉤子。頁面會根據回傳的 JSON 繪製圖形。

坦白說,這是一個靜態分析工具。它不會追蹤子工作流程,不會讀取表達式,而且即使條件很弱,像 IF 節點這樣的防護措施也會被接受。

「沒有發現問題」不代表「安全」,這也不是一次安全稽核。貼上的工作流程不會被儲存或記錄;只有報告會保留 7 天,你可以隨時刪除它。

我很樂意聽取你的意見:你會想增加或修改哪些檢查項目?我正在考慮檢查實際金鑰的冪等性檢查,以及子工作流程。你目前會採取什麼措施來阻止代理發送不可逆轉的內容?

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 n8n Community 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。