十多年前，我曾負責設計美國一座核電廠的首套全數位控制系統。這套系統在理論上堪稱完美，旨在像現代客機一樣自主運行，操作員只需監督，幾乎無需介入。然而，我們當時做了一個在追求效率者看來是「開倒車」的決定：我們刻意在系統能自動執行的流程中，保留了手動操作步驟。

我們當時是為了解決一個特定問題。一個只負責監督自動化系統的操作員，會逐漸失去其操作能力。他們的手會變得生疏，對電廠實際運作的心理模型也會變得模糊。

然後，總有一天自動化系統會將控制權交還給人類。那往往是最糟糕的一天，因為自動化系統只會在困惑或遇到麻煩時才放棄控制。然而，此時坐在控制台前的人，可能已經多年沒有真正操作過這套系統了。這些手動步驟的存在，就是為了讓操作員保持技能熟練。這是一種刻意為之、以效率換取能力的設計。

結果，那座電廠最終並未建成。由於美國核電產業的政治與經濟考量，該計畫被擱置，原因與工程設計無關。

然而，這種設計理念卻超越了該專案本身，我深信這是我能為當前每個董事會都在討論的議題，提供最有用的見解：當 AI 接手了過去用來培養人類專業知識的工作時，人類的專業能力將何去何從？

AI 正在顛覆工程師的職涯發展

這些數據已不容忽視。哈佛大學一份涵蓋美國超過 28 萬家公司、約 6,500 萬名員工的工作報告發現，企業採用生成式 AI 後，初階職位的僱用人數在六個季度內相對未採用者下降了約 9%，而資深職位則持續增長。

史丹佛大學對 ADP 薪資記錄的分析也指向相同結果：2022 年底後，在最容易受 AI 影響的職位中，最年輕的員工失去了優勢，而經驗更豐富的同事則保持了原有的地位。史丹佛大學的研究人員發現，這些損失主要集中在 AI 自動化工作的領域；而在 AI 僅作為輔助工具的領域，初階職位的僱用人數則保持穩定或有所增加。

造成這種現象的原因仍在爭議中，我們必須誠實地承認這一點。紐約聯邦準備銀行（New York Fed）的研究人員將年輕畢業生失業率上升的大部分原因歸咎於遠距工作，而非 AI，他們認為企業不願僱用無法遠端培訓和指導的無經驗人才。

然而，請注意這些解釋的共同點。無論是模型取代了基礎性的工作，還是遠距工作切斷了周圍的指導，兩者都描述了相同的機制失靈：即專業知識從資深傳承給初階的學徒制管道。無論如何，「入門級」職位已悄然變成了「需要三年經驗」的代名詞。

拋開所有雜音，你會發現一個看似簡單卻具欺騙性的問題：你不可能不先成為一名初階工程師，就能直接成為資深工程師。專業知識並非下載而來。

它是在失敗的建置、走投無路的除錯會話，以及那些「這到底為什麼會成功？」的時刻中累積而成的，而現在，一個能幹的 AI 會很樂意讓新手免於經歷這些。如果讓他們免於經歷足夠多的這些時刻，你就會培養出一批在紙面上能監督模型，卻從未發展出判斷模型何時自信地、災難性地出錯的直覺的人。

大多數評論僅止於診斷問題，或是尋求將初階職位流失視為經濟問題的政策解決方案。然而，這同時也是一個工程問題，而對安全性至關重要的領域，早已花費數十年時間學習如何解決它。

航空業關於自動化悖論的教訓

我的職業生涯始於自動化的最前線。我畢業後的第一份工作是驗證戰鬥機數位噴射引擎控制器中的軟體，該控制器能比任何飛行員更快地決定引擎如何反應。

即使在 1980 年代後期，這種核心矛盾就已顯而易見：機器在常規情況下表現優於人類，但在機器無法預料的情況下，人類卻是飛機與災難之間唯一的屏障。這種矛盾被稱為「自動化悖論」，即能力日益增強的自動化系統讓人類操作員練習機會減少，卻只留下最困難的局面讓他們處理。

航空業一次又一次、付出高昂代價地學到，當人類技能在這種空隙中萎縮時會發生什麼。經典案例是 2009 年墜入大西洋的法國航空 447 號班機。

直接原因很普通：結冰的空速感測器向自動駕駛儀傳送了錯誤數據，而自動駕駛儀則執行了其設計功能：斷開連接並將飛機控制權交還給機組人員。接下來發生的並非硬體故障，而是能力故障。一個本可挽回的局面變得無法挽回，因為飛行員在數千小時的自動飛行監督下，已無法判讀高空空氣動力失速，也無法手動駕駛脫離困境。飛機本身運作正常，但自動化悄然侵蝕的訓練卻失效了。

航空業的應對方式很有啟發性，這與我們在核電廠控制室所做的決定如出一轍。他們並沒有移除自動駕駛儀，而是重新加入了刻意的手動練習。

2017 年，美國聯邦航空總署（FAA）發布了《操作員安全警報 17007：手動飛行操作熟練度》，宣稱「手動飛行是其他飛行技術技能的基礎」。該警報正式承認技能衰退本身就是一種危險。

一些航空公司修改了程序，鼓勵在良好天氣條件下，手動駕駛飛機進行初始爬升和初始下降，刻意犧牲一點燃油效率，以保持機組人員最基本的飛行技能。這種權衡正是關鍵所在。一個產生不稱職操作員的完美最佳化系統，根本就不是最佳化系統。它只是將其故障模式轉移到了試算表無法看見的地方。

「手動關卡」可保留工程技能

將航空業的教訓與核電廠的直覺並置，它們都指向了我們在 AI 輔助工作中現在需要的一種設計模式：刻意的「手動關卡」。

「手動關卡」是工作流程中的一個環節，人類在此接管控制權，這並非因為它是完成任務最快的方式，也不僅僅是作為安全聯鎖，而是為了專門練習和保留那些否則會退化的技能。

其顯著特徵是它是被「選擇」的。你作為設計者，決定你的組織必須在人類身上保留哪些能力，因為這些能力將在「糟糕的一天」派上用場。然後，你設計必要的「摩擦力」來保持這些技能的活躍。

想像一下，這在一個主要依賴 AI 編寫程式碼的軟體團隊中會如何運作。該團隊將「手動關卡」設置在他們最不能失去的技能：除錯（debugging）上。

當關鍵模組出現缺陷時，被指派的工程師，通常是刻意選擇的初階工程師，必須在關閉 AI 助理的情況下，先重現故障、追溯根本原因，並編寫一個能捕捉該錯誤的自動化測試。

只有在工程師確定診斷後，AI 模型才會重新啟用，提出修復方案、生成替代方案，並掃描程式碼庫中是否存在類似錯誤。隨後，工程師將自己的診斷與模型的診斷進行比較。當兩者意見不合時，這正是設計發揮作用的地方，它在「糟糕的一天」到來之前，而非發生時，就揭示了分歧。

這種方法完全重新定義了初階工程師的角色。如今的直覺是讓 AI 完成入門級工作，因為它更快、更便宜。

然而，其中一些工作並非可消除的額外負擔。它是你未來資深員工的培訓機制，你應該像保護任何其他關鍵基礎設施一樣保護它。這可能不會讓本季度的效率提高，但拆除它卻悄悄地抵押了你十年後的實力。

企業為何必須持續培訓初階工程師

這一切都不是免費的，假裝如此會是對那些必須簽署預算的人的侮辱。刻意的手動關卡，從設計上來說，在短期內會比完全自動化效率更低。

讓初階員工從事基礎性工作並執行手動流程，現在需要付出一些成本，以保護未來的某些價值。

在一個以季度業績評斷大多數領導者的市場中，這很難推銷。一個僱來的經理人，如果保留了 AI 可以取代的「不必要」人力，在回報到來之前，就會受到董事會的質疑。

這種模式只適用於那些不受短期壓力影響的人：擁有控制權的創辦人、私人公司、具有真正長遠眼光的機構，或是願意要求員工定期展示技能的監管機構（就像飛行員一樣）。

這意味著最有可能保留自身專業知識的組織，是那些在結構上能夠將短期利潤投入長期能力的組織；其他組織則需要外部推動。

所以，我的論點可以歸結為一句話：刻意的低效率並非浪費。在對安全性至關重要的工程領域，我們一直將其視為保險，而且是刻意購買的。

當 AI 接管了培養專業知識的工作時，明智之舉並非抵制自動化。而是透過設計，讓我們的手保持在控制之上，這樣當自動化最終失效時，總會有人坐在那裡，知道如何應對。