OpenAI 的首席未來學家 Joshua Achiam 已於週二通知同事,他將在本月底離職,結束近九年的任期。WIRED 獲悉,Achiam 曾領導一個負責維護公司非營利使命的團隊。

他向 OpenAI 員工表示,離職並非出於任何特定原因,而是他思考已久的事情。Achiam 在 WIRED 取得的內部信中提到:「現在全世界都知道這個秘密了,感覺可以在前沿實驗室之外繼續為使命努力。」

Achiam 在信中說:「我相信我們可以達到一個和平、空前繁榮、擁有無限社會與科學可能性的世界。無論我接下來做什麼,我都會繼續與你們合作,將這個願景變為現實。」

OpenAI 尚未宣布是否會有人接替 Achiam 的職位。他的職責介於公司的 AI 安全與政策團隊之間,負責研究人工智慧崛起可能帶來的潛在危害與益處。

Achiam 曾與包括全球事務主管 Chris Lehane 在內的公司高層合作,倡導符合 OpenAI 使命的政府監管:確保通用人工智慧(AGI)造福全人類。

自 ChatGPT 於 2022 年推出以來,OpenAI 已多次重組其安全、產品和研究團隊。公司從一個小型研究實驗室迅速發展成為一家大型科技公司。

2024 年,OpenAI 宣布成立由 Achiam 領導的「使命一致性團隊」,負責維護公司使命。該團隊於二月解散,Achiam 隨後擔任首席未來學家的新職位。

去年,OpenAI 努力彌合其 AI 研究與政策團隊之間的差距,旨在制定預測技術發展方向的規則和標準。隨著兩個部門的合作日益緊密,包括 Boaz Barak、Noam Brown 和 Adrien Ecoffet 在內的幾位 OpenAI 研究人員表示,他們越來越多地參與到政策工作中。

前白宮 AI 顧問 Dean Ball 本週已加入 OpenAI,擔任公司策略未來主管,他將與 Achiam 短暫交接。Ball 預計也將與研究人員和政策領導者合作。

Achiam 是最新一位離開 OpenAI 的安全導向領導者,加入了一長串離職名單,而公司正準備上市。共同領導 OpenAI Superalignment 團隊、研究如何讓先進 AI 模型受人類控制的 Jan Leike,已於 2024 年離職並加入 Anthropic。

同年,政策研究主管 Miles Brundage 和負責研究 AI 模型危險能力的 Steven Adler 都離開 OpenAI,創立了非營利組織,倡導 AI 實驗室遵守嚴格的安全和資安標準。領導 OpenAI 研究 ChatGPT 如何回應面臨心理或情緒困擾用戶的 Andrea Vallone,則於 2025 年底離職,加入 Leike 在 Anthropic 的團隊。

Achiam 於 2017 年以實習生身份加入 OpenAI,後來成為專注於 AI 安全的研究科學家。他在公司內部被視為 OpenAI 以安全為核心使命的堅定捍衛者,但也因偶爾批評更廣泛的 AI 安全社群而引起爭議。

今年稍早,他在聯邦法院作證時提到,2018 年 Elon Musk 離開 OpenAI 的告別演講時,他曾打斷 Musk 的發言,指出這位當時的億萬富翁在 Tesla 開發 AGI 的計畫可能會犧牲安全性。據稱,Musk 回應稱 Achiam 為「蠢驢」(jackass)。

Dario Amodei(現為 Anthropic 執行長)和 David Luan(後來成為 Amazon AGI 實驗室主管)為了紀念這一刻,贈送 Achiam 一座金驢屁股雕像,上面刻著:「為了安全,永遠不要停止當個蠢驢。」