Google DeepMind 共同創辦人兼執行長 Demis Hassabis 呼籲美國建立一個新的 AI 監管機構，該機構應有權力審查全球最先進的模型，並在危險升高時協調整個產業放緩發展。Hassabis 在週二上午發表的個人宣言《前沿 AI 框架與新時代的黎明》（A Framework for Frontier AI and the Dawning of a New Age）中，闡述了這項計畫。
這項倡議之所以重要，是因為 Hassabis 在接受 Axios 獨家採訪時表示，現在是時候採取更「系統性」的 AI 監管方法了。他認為，這個機構應由業界資助，由世界級的技術專家組成，並向美國政府負責。Hassabis 在倫敦的基地告訴我們，當前由 AI 驅動的網路風險只是「警示」。
他指出，在未來 18 個月內，這些能力，加上更嚴重的生物和核武威脅，可能會存在於任何政府都無法控制的開源模型中。Hassabis 向我們強調，風險不僅來自開源模型，也將來自主要實驗室未來更強大的專有模型。他在宣言中寫道：「我們現在共同的行動，將決定文明的下一個階段如何展開。」
在幕後，Hassabis 已悄悄地為這項計畫爭取了數月的支持，在公開之前，他曾向川普政府、其他實驗室領導人和歐洲官員進行簡報。他談到與政府的會談時表示：「我聽到的反應非常正面。」川普政府在 Mythos 事件之前，對 AI 監管採取了放任自流的態度。
Hassabis 是一位在 AI 領域各方陣營中都備受尊敬的科學家，他說其他主要實驗室的領導人也高度認同：「這是業界必須走的方向。」他的時間表很積極，Hassabis 說理想情況下，新機構應在「數月內」運作，「在年底前」完成。
Hassabis 提議的 AI 標準機構，其模式類似於 FINRA（金融業監管局），這是一個由業界資助的私人監管機構，在美國證券交易委員會（SEC）的監督下監管華爾街。前沿實驗室最初將在模型發布前 30 天內自願與該機構分享其模型，進行安全測試，以探測危險的網路、生物和「欺騙」能力。
Hassabis 寫道，一旦測試制度被證明「有效且穩健」，「正式化就可以迅速跟進」。這意味著前沿模型在美國市場部署之前，將被要求通過測試。Hassabis 設想一個由圖靈獎得主和其他具備資歷的專家組成的多數獨立董事會，以及業界、政府和開源代表。
有趣的是，這些規則將適用於所有前沿級模型，「無論其原產國，也無論它們是開源還是閉源」，合格的基準將隨著能力的演變定期更新。Hassabis 預測，「前沿」的稱號將具有聲望：通過測試意味著你的模型很重要。他告訴我們：「我認為這是一種非常好的、有聲望的資產。」
從大局來看，Hassabis 表示，川普政府上個月對 Anthropic 的 Mythos 和 Fable 模型採取的臨時性打擊是「一個警鐘」，證明華盛頓需要比臨時指令更穩固的機制。Anthropic 最強大的模型在一夜之間被出口管制命令凍結，然後花了兩週半的時間在沒有既定規則、協議或操作手冊的情況下協商其發布。
OpenAI 為了避免同樣的命運，同意將 GPT-5.6 限制給經政府審查的合作夥伴發布。在與商務部協商和測試後，該模型於上週公開發布。
從字裡行間來看，Anthropic 執行長 Dario Amodei 也發出了自己的呼籲，要求制定具有約束力的法規，設想一個類似 FAA（美國聯邦航空總署）的機構，有權阻止不安全的模型。現在，Gemini 和 Claude 背後的實驗室負責人都同意華盛頓應該監管它們，主要分歧點在於誰擁有權力。
總而言之，Hassabis 相信 AGI（一種擁有人類大腦所有認知能力的系統）「可能只剩下幾年時間」，而我們正站在「奇點的腳下」。他寫道：「我們基本上找到了一種讓沙子思考的方法。這真是奇蹟。」
