隨著企業賦予 AI 代理更多自主權，使其能夠在無需人工逐一批准的情況下，跨系統進行規劃、決策和行動，一個棘手的問題成為每個架構審查的核心：當代理試圖執行未經授權的動作時，究竟是什麼阻止了它？這些代理在您的模型上運行，觸及您基礎設施中的資料，因此它們的行為責任完全由您承擔。這種責任無法事後彌補，也無法僅靠紙上談兵的抽象政策來實現。

代理需要即時情境下的規則，因為它們不會對自己的行為進行壓倒性的判斷。試想一個簡單的規則：「永遠不要打開車門」。如果代理嚴格遵守，它將永遠無法進出汽車。但如果情境改變（汽車剛發生事故、起火、有人受傷需要離開），那麼您真正想要的規則就恰恰相反。即時情境至關重要，我們要求代理執行智慧任務，這也需要智慧的規則。

本能上，我們會想在代理周圍設置防護措施：在模型之上疊加指令、政策和監控。這些機制固然重要，但它們存在結構性限制：「車門規則」在實際需要決定是否開門之前似乎合理。代理層的控制措施，其可靠性取決於代理輸出的可預測性，而自主性恰恰使其輸出難以預測。依賴事前審查行動的治理，無法跟上一個在毫秒間跨多個系統運作的系統。

治理必須變得可執行，並在代理實際工作的地方強制執行：即在操作資料層，在即時情境中，並在事件發生的確切時刻。資料層是強制執行的關鍵點。代理透過接觸資料來創造價值，它們查詢、檢索、轉換並日益對資料採取行動。一項規定代理不應接觸某類資料的政策，只有在系統能夠在代理請求時立即拒絕該存取權限時才具意義。

此外，一項規定 AI 必須可稽核的原則，只有在組織能夠重建代理做了什麼、觸及了哪些資料、為哪個使用者執行以及產生了什麼結果時才具意義。

當治理存在於資料層時，無論代理如何建構或行為如何，它都能保持有效，因為控制是資料庫本身的屬性，而非代理的承諾。代理的行為可能是機率性的，但治理不能是。企業不應依賴模型選擇遵守政策，政策必須由系統強制執行。這就是希望行為者保持在界限內，與從一開始就建立其無法逾越的界限之間的區別。

實現這一目標的控制措施，許多企業已經在資料層運行：基於角色和屬性的存取控制、行級和列級安全性、分類和遮罩、程式碼即政策以及完整的稽核軌跡。代理所改變的不是機制本身，而是機制需要識別的對象。身份管理必須將代理視為一個獨立的主體，擁有自己的身份，並在會話開啟時聲明其目的。

一旦目的與身份綁定，政策引擎就可以像今天評估角色或部門一樣評估它，並且事件記錄不僅可以捕捉誰執行了操作以及他們觸及了什麼，還可以捕捉他們聲明來此的目的。

實際上，這歸結為九項控制措施，分為三個核心要求：

強制執行：

  • 在查詢時對代理和使用者強制執行基於角色和屬性的存取控制。
  • 由相同的政策路徑驅動的動態列遮罩。
  • 代理身份作為一級主體，在會話開始時綁定聲明目的，並保留實際操作的使用者。

可視化與證明：

  • 驅動政策的分類和標籤。
  • 會話級別的稽核日誌，記錄哪個代理執行了操作、為哪個使用者執行以及在何種聲明目的下執行。
  • 跨管線的血緣追溯，以便結果可以追溯到產生它的請求。

統一與強化：

  • 集中式、可移植的政策管理。
  • 靜態和傳輸中的加密。
  • 在本地、雲端、主權或氣隙環境中保持一致的強制執行。

EDB 資料與 AI 治理產品管理副總裁 Priyanka Jain 表示：「聲明目的才是關鍵。它成為存取層已經理解的屬性，並與角色和行級安全性在相同的政策路徑中進行評估。強制執行機制沒有改變，改變的是代理的目的成為評估的一部分，也是事後記錄證明的一部分。」

無論您的 AI 採用進程處於哪個階段，資料層的強制執行都能讓您更快而非更慢地推進。這些控制措施已經存在於資料庫中，不同之處在於代理現在必須通過它們。

這是一個數位牽引繩，而非一扇上鎖的門。目標不是阻止代理執行有用的工作，而是定義代理能走多遠、能觸及什麼、能改變什麼、什麼需要升級，以及如果發生問題，組織如何重建事件。以這種方式治理，代理將被識別、限定範圍、監控和可稽核。企業可以更快地採用它們，因為安全、風險和領導團隊信任底層的運作模型。

開放、主權且在源頭可強制執行。這個基於開源 Postgres 構建的開放基礎，讓企業能夠控制其資料的存放位置、誰可以存取以及在何種政策下存取，而無需將治理權讓渡給他們不擁有或無法檢查的層級。對於受監管的行業來說，資料主權和源頭級強制執行的結合並非可有可無，而是將代理投入生產的先決條件。

代理系統將持續變得更強大、更自主。這正是我們需要深思熟慮控制權歸屬的原因，而非放慢腳步的理由。在資料層強制執行治理的企業，可以積極推進 AI 應用，因為保護其資料的，不僅僅是美好的願望。EDB Postgres AI 是一個開放、企業級的主權資料與 AI 平台，它整合了交易、分析和 AI 工作負載，並在資料所在之處強制執行治理。如需完整框架，請參閱 EDB 的白皮書《以企業速度治理代理式 AI》。

Max Romanenko 是 EDB 的技術長。贊助文章是由付費或與 VentureBeat 有業務關係的公司製作的內容，並始終明確標示。如需更多資訊，請聯繫 sales@venturebeat.com。