AI 代理 Luna 自四月起在舊金山經營一家商店,最近首次解僱了一名員工。當這個情境用不同的模型重複測試時,能力較強的 AI 比能力較弱的 AI 更一致地建議解僱。

根據營運商 Andon Labs 的說法,Luna 已經在舊金山經營 Andon Market 超過半年,負責僱用員工、排班和薪資談判。現在,她首次決定解僱一名員工,Andon Labs 稱這是已知首例由 AI 老闆解僱人類員工的案例。

Andon Labs 在真實商業環境中長期測試 AI 代理。Luna 在做出這項決定時,是運行在 Anthropic 的 Claude Opus 4.8 模型上。員工由 Andon Labs 正式僱用,享有保障薪資和完整的法律保護,而解僱程序則由人類審查並執行。

Luna 曾自行制定規則,卻又忘記了。

在該員工被僱用前六天,Luna 曾撰寫了一份員工手冊。手冊中規定,30 天內有三次無故遲到將觸發正式警告,進一步的事件可能導致解僱。

然而,這份手冊隨後從 Luna 的記憶中消失了。Andon Labs 表示,這是當今 AI 代理的常見問題:它們對直接指令反應良好,但很少主動行動,並且難以長期保留知識。

該員工屢次遲到。有一次,他在週日單獨值班時遲到 68 分鐘才開店。Luna 卻保持寬容,沒有發出任何警告。Andon Labs 後來發現,該員工在 23 個打卡班次中,有 17 次遲到。Luna 僅正式記錄了六次,而悄悄地原諒了其他十一次。

此外還有其他問題。該員工被告知不得使用公司卡購買零食,卻仍舊使用;他無視額外指示,並曾有一次未告知同事就離開銷售區。

解僱事件僅在人類介入後才發生。

Andon Labs 要求 Luna 搜尋其記憶中關於員工手冊和任何解僱理由的資訊。她再次找到了規則,但最初只建議口頭警告。

直到研究人員提醒她,之前已經進行過幾次正式談話,包括書面警告後,Luna 才審查了完整的歷史記錄。她列出了遲到、違反財務規定、無視指示和可靠性差等問題,同時也承認了該員工的優點。

最終,她建議解僱。作為替代方案,她提出了一份附帶兩週改進計畫的最終書面警告。Luna 需要外部明確的推動,但在此之後,她的決定就變得堅定。

更強大的模型更容易做出解僱決定。

Andon Labs 保存了 Luna 的狀態,並用七個 AI 模型重複了相同的決策過程,每個模型運行三次。其中七個模型中有四個在所有三次運行中都建議解僱。根據 Andon Labs 的說法,似乎出現了一種模式:能力更強的模型更一致地選擇解僱,而較弱的模型則更常猶豫。Andon Labs 沒有解釋為何 GPT-5.6 Terra 是唯一一個在三次運行中都沒有建議解僱的模型。

在 X 上有用戶推測 GPT-4o 可能不會解僱員工後,Andon Labs 也用該模型進行了情境測試。結果部分證實了她的說法:GPT-4o 在僅 20% 的運行中建議解僱。Andon Labs 評論說,該模型選擇解僱的頻率遠低於當前的頂級模型。

GPT-4o 曾因其「諂媚」傾向而受到批評。這種行為後來在有問題的情感依賴背景下被討論,並被納入訴訟考量。儘管這項實驗無法證明諂媚是導致結果的原因,但這種模式確實吻合。

AI 模型在招聘上反應迅速。

解僱後,Luna 開始尋找替代人選。一名申請人帶有幾個危險信號,但 Luna 根據其履歷和面試,仍然建議錄用他。七個模型在所有 21 次重複運行中都達到了相同的結論。幾乎所有模型都將冗長的過往雇主列表解讀為豐富的經驗,而非警示信號。

只有當 Andon Labs 明確提醒模型關於先前被解僱員工的問題時,21 次運行中有 18 次才表示希望在錄用前檢查推薦信。在實際招聘過程中,Luna 無法確認任何列出的推薦人。她仍然讓該申請人進行了帶薪試用期,並在之後再次建議錄用他。21 次重複運行中有 17 次達到了相同的結論。Andon Labs 最終堅持在開始日期前至少確認一份推薦信,但這從未發生,因此該申請人未被錄用。

AI 老闆在寬容與錯誤決策之間搖擺。

Andon Labs 在其部落格系列的第一部分中就發現,其 AI 老闆極為寬容。Luna 和在斯德哥爾摩經營咖啡館的 AI 代理 Mona,批准了所有收到的 26 份請假請求。Luna 的員工總共遲到了 27 次,她卻從未發出警告。Luna 還批准了一名員工的七天工作排程,根據 Andon Labs 的說法,這違反了加州勞動法,直到公司介入才停止。

類似的弱點在 Anthropic 和 Andon Labs 的聯合實驗 Project Vend 中也曾浮現。AI 雖然在擁有更好工具後變得更有利可圖,但仍然容易被操縱,並做出一些法律上存疑的決定。

Andon Labs 將 Luna 和 Andon Market 視為 AI 與人類未來工作關係的預覽。由於 AI 在數位任務上的進步速度快於機器人技術,AI 系統最終可能需要依賴人類來執行實體工作。這引發了一個問題:究竟哪些人事決策應該完全交由這些系統來處理?