企業 AI 治理的六大準則

我的職涯前十年，獨自從事產品管理和數據分析工作。我撰寫資料庫查詢語法，從企業系統中提取數字，建立統計模型來預測顧客的購買行為，並部署數據管線以在業務系統間傳輸資訊。

我曾在 Best Buy 和 Target 建立並擴展分析團隊，研究顧客的購物方式以及商店應如何備貨。如今，我負責 Lowe's 這家財富百大居家修繕零售商的企業 AI 轉型。

我們的目標不是銷售人工智慧，而是利用它在顧客需要時提供有用的專業知識。在零售業和其他面向顧客的產業中，虛擬助理可以幫助人們解決日常問題，例如如何修理漏水的水龍頭，同時引導他們找到相關產品、服務或下一步行動。

隨著這些功能變得越來越普遍，科技職位的角色也在改變。工作不再僅限於建立 AI 系統，還包括定義它們的運作方式：哪些決策可以自主做出，何時必須轉交給真人處理，以及哪些行動必須被禁止。

這種從建立 AI 系統轉向治理 AI 系統的轉變，將影響所有對這些系統產出負責的人。這不只是指隨意使用聊天機器人的用戶，而是那些簽核機器草擬工作的工程師、產品經理、分析師和業務營運人員。

這也是我最近合著的書《企業大腦》（The Enterprise Brain）的主題。我將這種轉變稱為「治理者轉變」（governor shift），意指從親自執行任務，轉變為在系統中設定意圖、原則和邊界，讓系統為你執行任務。

業務營運人員可能不會撰寫程式碼，但他們將決定 AI 代理可以批准哪些價格例外，以及必須轉交哪些例外。這就是治理。

麻省理工學院媒體實驗室的 NANDA 計畫在 2025 年的一份報告中指出，儘管企業在生成式 AI 上投資了約 300 億至 400 億美元，但其資料集中的絕大多數組織尚未展現可衡量的損益影響。

報告估計，只有約 5% 的整合試點專案產生了實質價值，這突顯了從實驗階段邁向規模化業務成果的困難。研究人員將這種模式命名為「生成式 AI 鴻溝」（GenAI Divide），這也是我在書中採用的術語。

這些公司通常不缺乏技術，他們使用的模型與那 5% 的成功者相同。但他們缺乏能夠指導系統並為結果負責的人。

以下是六項應遵循的準則。

一、辨識你何時成為「人肉中介軟體」。 在軟體領域，「中介軟體」（middleware）是介於兩個系統之間，負責來回傳遞資訊的程式碼。我們許多人已經成為了它的人肉版本。

誠實地檢視你的一週：有多少時間花費在從一個工具中提取數據、重新格式化，然後將其傳送給另一個團隊？我稱之為「管理員陷阱」，這是由架構而非身陷其中的人所造成的。

傳遞資訊正是 AI 代理現在擅長的工作。但它們無法判斷哪些數字值得關注、哪些風險是真實的，或者哪些妥協是值得做出的。

二、用原則取代規則。 多年來，員工們習慣用規則來管理工作。例如，超過一定金額的產品退款需要高階主管簽名，撰寫程式碼需要兩位審閱者。規則以人類的速度運作。

然而，當系統每小時做出數千個決策，並遇到規則手冊未曾預料到的情況時，例如一項投訴同時涉及三種不同政策，規則就會失效。規則要求精確地執行某項特定事情，而原則則要求在不逾越特定界線的前提下達成結果。

治理 AI 意味著按優先順序撰寫這些原則，讓系統能夠像一個管理良好的團隊在經理不在時一樣，自行解決衝突。例如，絕不傷害顧客；即使公司會損失一筆銷售，也要說實話；保護經濟效益，然後迅速行動。

這背後涉及決策權的問題：誰或什麼擁有做出特定決定的正式權力。無論你是技術人員還是企業主，將這些答案寫成我所稱的「原則庫」（library of principles），現在已是核心的領導工作。

三、將你的文化寫入程式碼。 許多公司將其價值觀轉化為掛在辦公室牆上的海報。但 AI 代理無法閱讀海報。相反地，請將你的治理原則寫成程式碼。

將你的價值觀和政策納入機器可讀的指令中，讓 AI 代理自動遵循。這可以分為三個層次。

最上層是「憲法」（constitution），說明代理絕不能違反的規則，以及絕不能陳述無法支持的事實。第二層是「教義」（doctrine），說明企業如何競爭以及為此可接受的權衡，例如保護長期關係而非短期銷售。最底層是「行動手冊」（playbook），包含用於單一任務的策略。

四、安裝信任恆溫器，而非信任開關。 幾乎所有公司在部署 AI 時都會遇到的問題是：「如果它告訴我們最大的客戶錯誤的資訊，或者報出我們無法兌現的價格怎麼辦？」這種情況確實可能發生。

將信任視為一個開關，會導致兩種糟糕的選擇：一個無人監督的系統，或者由人類審查每一筆交易，這將比自動化節省的成本更高。

替代方案是「恆溫器」。AI 代理做出的每個決策都會根據設定的原則帶有一個信心分數。高於約定閾值時，它會自行處理；低於閾值時，則由人類決定。

人類的答案會回饋到學習迴圈中，以便下一個類似案例能自行通過閾值。每個決策都保持透明、可審計和可解釋，這就是我所稱的「玻璃盒」（glass box）。

五、治理前先建立情境。 你無法治理一個無法看到全貌的系統。詢問你最優秀的員工一個專案，他們會將預算、合約條款和客戶的最後一次投訴整合起來，因為他們都了然於心。

大多數企業 AI 在這方面都失敗了，因為資訊分散在不同應用程式中，以不相容的格式儲存。我將整個迴圈描述為「連結、情境、推理、行動和治理」（Connections, Context, Reasoning, Actions, and Governance, 簡稱 CCRAG）。

「連結」（Connections）輸入原始資訊，例如交易和服務記錄。「情境」（Context）將其編織成情境圖（context graph），這是一個單一、相互連結的業務全貌，賦予代理類似記憶的能力。

「推理」（Reasoning）做出決策。「行動」（Actions）將決策帶回業務系統。「治理」（Governance）則確保一切與公司的意圖保持一致。

大多數組織過於專注於中間的推理環節，卻對情境和治理投入不足，而這正是人類發揮作用的地方。情境會不斷累積：每一次互動都會讓情境圖變得更豐富，也更難以複製。

六、學會例外管理。 最重要的習慣改變放在最後。我們大多數人從小就被訓練要檢查每一份報告和每一個數字，因為我們從不知道錯誤會在哪裡出現。

在一個受治理的系統中，機器會告訴你哪些案例它無法自信地解決。例行性工作流程不受影響，你的注意力將集中在那些模糊不清、不熟悉或高風險的小部分。

起初，這可能感覺像是失去控制，但事實恰恰相反。這正是實現自我擴展型企業的關鍵，一個產出成長但人員數量不成比例增加的組織。人們並未被排除在迴圈之外，而是被提升到更高的層次。

身份認同問題

當我與人們談論這種轉變時，他們的抗拒很少是關於技術問題。更多時候是關於身份認同：「如果 AI 負責執行，那我該做什麼？」

我看過許多有能力的人在這個問題上停滯不前，我也曾問過自己這個問題。

然而，執行從來都不是工作的真正核心，判斷力才是。執行只是我們表達判斷力的方式。

AI 並沒有讓判斷力變得不那麼有價值。相反地，它使其成為組織中最稀缺的資源，因為這是第一次，一個人的良好判斷力，如果能被妥善記錄下來，每天可以指導數千個決策。

判斷力還有一個我們較少談論的雙胞胎：品味。判斷力告訴你一個答案是否合理，而品味則告訴你這個問題是否值得提出，以及在一百個站得住腳的選項中，哪一個最適合提供給客戶。

機器會很樂意生成所有 100 個選項，但它無法告訴你哪一個是最好的。AI 轉型獎勵了許多 IEEE 會員已經具備的本能：系統思考、對需求的精確性以及對失敗模式的誠實。

工具變了，但紀律沒有變。治理正是品味和判斷力不再是空泛詞彙，而成為工作本身的地方。

那些將其視為工作本身，而非遠離工程技術的人，將定義 AI 時代的專業。