代理（Agent）的複雜性是企業內部目前潛藏的陰影，亟需被正視。這是因為企業部署的並非單一代理，而是由眾多代理組成的「艦隊」，每個代理都會呼叫 API、呼叫其他代理，並存取那些從未考慮機器決策者而建構的應用程式。這種失敗模式才真正令人擔憂：一個盤根錯節、複雜難解的系統，卻沒有人能清楚掌握其運作以進行治理。

但為何情況會如此迅速地變得不透明？當系統中加入第二個代理時，你只增加了一條連線；但當加入第十個代理時，你增加的可能不是十條連線，而是數十條，因為現在任何代理都可能呼叫其他代理，而每個呼叫又可能觸發其他地方的呼叫。複雜性並非隨著代理數量線性增加，而是隨著代理之間的路徑數量呈指數級增長，然而卻沒有人負責繪製這張關係圖。

一個過去只會接觸單一系統的客服工單，現在可能在人類介入前就已經經過四個代理處理，而每一次的交接都是一個未經核准的決策點。當負責代理的人員無法掌握其運作時，大多數企業 AI 專案就會停滯不前。試著問資安團隊一個簡單問題：「哪些代理可以存取哪些系統？」你會發現一片寂靜。再問：「哪個代理在三個步驟前觸發了哪個後續動作？」只會得到更多的沉默。

人們的直覺反應是將其視為一份核對清單：核准代理、記錄代理，然後繼續。但我認為這是一種錯誤的直覺。核對清單只能檢查單一時間點的狀態，而複雜性卻貫穿整個鏈條。你不能指望透過一堆一次性的核准來治理一個鏈條，這就像你不能因為吃過一次蔬菜就說自己飲食成功一樣。

那麼，問題究竟出在哪裡？首先是權限蔓延。有人開發了一個代理來摘要客服工單，並賦予它廣泛的 API 存取權限，因為若要精確設定範圍可能需要額外的開發時間，然後就將其遺忘。六個月後，同一個代理卻有了存取支付系統的路徑。沒有人記得批准過這項權限，事實上也沒有人批准。

隨著鏈條的延伸，責任歸屬也變得模糊。當五個代理處理一個工作流程，卻在第四個步驟發生問題時，你會發現沒有人被明確指派負責這個環節。因為組織圖只停留在「部署代理」，卻從未觸及「指定負責人」的層面。

這說明了治理基礎設施未能跟上代理實際行為的問題：它們相互連結、層層相扣，其增長速度遠超追蹤它們的流程。要解決這個混亂局面，首先要從「身分識別」開始。每個代理都需要作為一個獨立實體存在，而不是借用部署者的影子權限。它應該有自己的註冊名稱、自己的限定權限，以及一位負責其行為的指定人類贊助者。

這一步是必要的，但遠遠不夠。更困難的部分是貫穿整個鏈條的全面監管，而不僅僅是針對其中每個獨立環節。你需要即時看到一個代理做了什麼、它觸發了哪些下游動作，以及這條軌跡最終在哪裡結束，而不是等到每季才有人彙整報告。

如果只做到代理層級的身分識別就停滯不前，最終只會得到一堆文件齊全的代理，卻在一個無人能真正解釋的系統中運作。而單純的監管也只能告訴你已經發生的事情。觀察一個鏈條並不等同於控制它。大多數專案都忽略了「執行」這一環：即在違規呼叫執行前就將其阻止，而不僅僅是記錄下來供三週後審查時發現。

一個顯示代理在五分鐘前超出其權限範圍的儀表板，只是一個監控工具。而一個能從源頭阻止違規發生的系統，才是真正的治理。認真對待代理問責制的企業需要兩者兼備，但大多數企業目前只建構了前者。

我們都在以極快的速度奔跑，以確保不會在這場競爭中落後，並且深知放慢腳步的代價。每個認真發展代理式 AI 的企業最終都會遇到複雜性這道高牆。那些能夠跨越這道牆的企業，是那些建立了足夠的透明度和問責制，使其代理艦隊能夠持續擴展，同時又能回答一個關鍵問題：「這個系統現在正在做什麼？誰應該為此負責？」

但別誤解了，複雜性並非放慢腳步的理由。那些做得好的企業並沒有放慢速度，他們正在建立「人機代理和諧」（Human-Agent Harmony），讓規模與問責制能夠同步成長，而非相互取捨。真正的風險從來不是單一代理精確地執行其被設計的任務，而是數百個代理同時精確執行任務，並以無人預料的方式相互互動。

這種複雜性的倍增，正是讓企業 AI 永遠停留在試點階段，而無法進入生產環境的原因。解決了複雜性，自主性就不再是反派，反而成為其核心價值。