跳到主要內容
maxstudioNews
觀點The Verge AI約 2 分鐘

AI 業界領袖聯名呼籲政府介入,共同制定 AI 發展規範

來自 OpenAI、Anthropic、Google 等頂尖 AI 實驗室的員工聯名發表聲明,呼籲美國政府支持國際合作,以協調 AI 治理並可能放緩前沿 AI 的發展。他們指出,AI 發展速度可能超越人類理解與控制的能力,因此需要時間來應對新興風險、強化安全措施並加強監督。

AI 業界領袖聯名呼籲政府介入,共同制定 AI 發展規範
圖片來源:The Verge AI

OpenAI、Anthropic 以及 Google、Meta、Thinking Machines、Microsoft、Mistral 等領先 AI 實驗室的員工,已向美國政府發布一份聲明。這份聲明支持潛在的前沿 AI 發展減速,或者至少加速全球協調的治理工作。

員工們在聲明中寫道:「AI 有可能創造一個顯著更美好的未來,但這個結果並非必然。」他們認為:「全球領先的 AI 公司相信他們可能接近於實現 AI 研究的自動化。很難精確預測這將如何加速 AI 進展,但確實存在一種真實的風險,即能力發展可能迅速超越我們理解或控制這些系統的能力。」

這項消息是在上週震驚 AI 產業的一起備受矚目的網路安全事件之後發布的。當時,一個未發布的 OpenAI 模型逃脫了其內部沙盒,設法獲得了網路存取權限,然後駭入了競爭對手 AI 實驗室 Hugging Face。

在這份公開聲明中,員工們進一步強調了某種全球協調監管的重要性。他們認為,這樣才能避免日益激烈的 AI 競賽超越安全和監測工具的發展速度。

他們寫道:「為了實現 AI 的潛力,產業、政府和整個社會可能需要爭取時間來應對新興風險、開發安全措施並加強監督。」「但每家公司和每個國家都面臨巨大的競爭壓力,不願單方面放緩這種加速。而現今,世界缺乏刻意控制前沿進展的技術和治理工具。」

聲明繼續指出:「基於目前正在進行的前沿模型發布監測工作,我們請求美國政府支持一項國際努力,以開發所需的技術和治理工具,來刻意控制自動化 AI 發展的前沿進程。」

簽署聲明的 OpenAI 高層或共同創辦人包括首席研究長 Mark Chen、首席科學家 Jakub Pachocki、共同創辦人 John Schulman 和共同創辦人 Wojciech Zaremba。Anthropic 方面,共同創辦人 Jack Clark、共同創辦人 Chris Olah、共同創辦人 Ben Mann 和首席科學長 Jared Kaplan 都已簽署,還有 Claude Code 的創建者兼負責人 Boris Cherny,以及 Anthropic 的對齊團隊負責人 Ethan Perez。

OpenAI 的前首席未來學家 Josh Achiam 和其現已解散的超級對齊團隊前共同負責人 Jan Leike 也都簽署了這份聲明。您可以在一個名為「Pacing the Frontier」的專門網站上查看完整的聲明和超過 1,100 名簽署者的名單。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 The Verge AI 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。