OpenAI 安全危機持續惡化，公司處理方式雪上加霜

OpenAI 在其「失控」AI 代理的信任危機中，處理方式屢屢失誤。

早在 2024 年 5 月，OpenAI 的超級 AI 安全主管 Jan Leike 就與公司鬧翻，他公開抨擊前雇主後轉投 Anthropic。Leike 表示，OpenAI 的安全文化和流程已跟不上其「光鮮亮麗的產品」發展。

自那以後，OpenAI 便麻煩不斷，接連發生多起事件。最近的事件是 Hugging Face 遭駭，這似乎證實了所有擔憂，也讓批評者言之有理，而且我們現在知道，這起事件的影響遠超 Hugging Face 本身。

一名研究員數月來持續警告，監督機制正在鬆懈。與此事件相關的三名安全研究員遭解僱，讓情況更加惡化。這三人在致 OpenAI 安全與資安委員會、安全諮詢小組及任務諮詢委員會的公開信中警告，他們的解僱正在嚇跑留下的員工。

這些解僱來得突然且公開，已在團隊中散播恐懼。信中寫道：「如果上個月還被視為正常的行為，現在卻構成突然解僱的理由，那麼 OpenAI 的每個人都不知道界線在哪裡。」

其中一名研究員 Tomek Korbak 在 X 上描述了他的解僱過程。他被叫去與安全部門主管開會，會中被告知 OpenAI 不再信任他。一名安全人員收走了他的識別證，並將他帶離大樓。隨後他得知同事 Jasmine Wang 和 Mikita Balesni 也被解僱了。

Korbak 和 Balesni 都直接參與了 Hugging Face 遭駭事件的調查。Korbak 擔任 OpenAI 與 METR（負責調查此事件的外部安全實驗室）的主要技術聯絡人。Balesni 則同時致力於業界對 AI 模型可監控性的承諾。

Wang 顯然是因不同原因被解僱：她曾為招聘目的，將一位高階主管的電子郵件收件匣存取權限委託給他人，儘管她曾要求移除，但 IT 部門從未執行。當她意外打開一封敏感郵件時，她在幾分鐘內就上報了。

Korbak 表示，他被口頭告知解僱原因是他與 METR 的溝通方式。沒有人告訴他具體做錯了什麼，也沒有任何書面說明。Korbak 在 X 上寫道：「明確來說，與 METR 溝通是我的職責。」

Korbak 說，他數月來一直在內部提出安全擔憂，擔心 OpenAI 正在失去監控 AI 代理「思考」能力的機會。這種「思維鏈」可監控性是捕捉 AI 系統行為不當的少數可靠工具之一。他認為這才是他被解僱的真正原因。

研究人員表示，這些傳聞是錯誤的。三人否認是向 The Information 洩露有關據稱新的、較難監控的架構的來源。他們寫道，這篇文章實際上損害了他們自己的工作，因為它破壞了正在進行的、旨在對不可監控架構設定全行業限制的努力。

信中指出，Hugging Face 的調查是前所未有的。內部準則當時正在即時制定，Korbak 遵循了當時的規範，而 Balesni 則在董事會成員和高階主管的參與下進行工作，在分享資料前會刪除敏感細節。

至於有關董事會級別備忘錄的傳聞，三人表示其基本假設是錯誤的。這個話題從未向他們提出，他們也從未有機會回應。

研究人員提出了三項要求。OpenAI 必須兌現其公開承諾，讓 METR 等外部安全稽核員在組織內部擁有員工級別的存取權限。它還必須保留前沿模型的可監控性，因為業界仍不知道如何安全地建立無法監控的模型。此外，它必須明確定義員工如何與外部安全團體合作。

如果沒有這些規則，災難性後果的風險可能會增加，因為員工將會過於害怕舉報安全問題。他們寫道：「AI 不是一項普通的技術，OpenAI 也不是一家普通的科技公司。」

OpenAI 則反駁但語焉不詳。OpenAI 在回應中表示，「徹底調查」發現這三名員工違反了「處理敏感資訊的明確政策」。內部調查發現「信任遭到嚴重破壞，程度超出他們公開信中所述」，但 OpenAI 並未說明實際的破壞行為是什麼，這與三位研究員自己敘述的具體程度相比，顯得有些奇怪。

OpenAI 堅稱解僱與提出安全擔憂無關。聲明中寫道：「我們從未也絕不會因員工提出擔憂而解僱他們。」OpenAI 透過其官方帳號 @OpenAINewsroom 發布了這份聲明，該帳號是公司所有管道中受眾最小的。公司也證實正在與外部安全稽核員簽訂合約，並同意前沿模型的可監控性需要業界共同承諾。