Google DeepMind執行長兼共同創辦人Demis Hassabis認為，世界需要一個AI監管機構，當前沿模型變得過於危險時，該機構應有權力踩下煞車。
Hassabis在一篇部落格文章中指出，美國應主導這項倡議，他認為鑑於美國的經濟和技術地位，是制定全球標準的最佳地點。這個組織可能類似於現有的金融業監管局（Financial Industry Regulatory Authority），將由領先的獨立專家和開源社群代表組成。它將有權在模型發布前進行評估，並在判斷部署風險過高時，協調全產業的發展放緩。
這篇題為「前沿AI框架與新時代的黎明」的部落格文章強調，隨著AI系統日益複雜，全球監管的需求變得更加迫切。Hassabis表示，通用人工智慧（AGI）「可能只剩下短短幾年」。他認為：「未來幾十年回顧此時，我認為我們會意識到我們正站在奇點的腳下，這不亞於人類新時代的黎明。」
據Axios報導，Hassabis數月來一直在悄悄地為他的提案爭取支持，包括向Trump administration、其他AI實驗室和歐洲官員進行簡報，並希望該新組織能在今年底前運作。他告訴Axios，「我從Trump administration那裡聽到的反應非常正面。」
這項提案是Hassabis和其他產業領袖為建立一套連貫框架，以管理日益強大的AI系統並減輕其潛在風險所做的最新努力。截至目前，全球尚未有專門管理AI的規則，美國國內也缺乏全面的國家級規範。Hassabis，這位因其AI蛋白質預測工作而共同獲得2024年諾貝爾化學獎的得主，上個月也簽署了一份聲明，呼籲加強防範AI輔助的生物武器生產。
Hassabis最近的評論，是在頂尖經濟學家和科技巨頭，包括Anthropic共同創辦人Jack Clark和前Google執行長Eric Schmidt，發表聲明之後。他們敦促世界各國領導人認真看待AI即將帶來的經濟影響。
