從全國各州的州政府到華盛頓特區,再到國際會議,前瞻性 AI 治理的嚴肅方法正逐漸成形。這些努力共同推進了 AI 的民主願景。
加州、紐約以及最近的伊利諾州,都已推動前瞻性安全立法,協助美國朝向管理最強大 AI 系統的共同基準邁進。這些努力反映了 OpenAI 所稱「逆向聯邦主義」的動能:各州透過共同框架協助確立共享方向。
隨著各州主導的工作與聯邦層級的努力匯聚,一個國家標準正開始形成,為美國主導的全球 AI 框架奠定基礎。我們相信,確保 AI 造福大多數人而非僅少數人的最佳方式,是讓關鍵決策,從前瞻性安全開始,由民主政府而非僅由前瞻性實驗室來制定。
最終,美國最能受益於一個以該原則為基礎的國家框架。但在缺乏此框架的情況下,各州可以透過通過彼此相似的法律來推動進展,一步步建立事實上的國家標準。
如果安全是首要之務,這樣的國家標準是最佳政策方法,以確保美國持續引領創新,不因零散的法規而受損。這些法規將減緩建立全球民主 AI 生態系的能力,該生態系旨在優化好人擁有所需工具,以防禦惡意行為者在網路安全等領域濫用 AI。同時,這也將使美國處於最強勢地位,能將國家標準轉化為安全部署 AI 的全球方法,並建立在民主價值之上。
如果我們想建立一個真正優先考慮國家和國際標準的安全框架,這將是支援 AI 安全部署的最佳方式,這將需要艱苦的工作、堅定的決心和連結各州、聯邦政府與國際對話的策略。表面功夫或作秀式的做法無法完成任務,州層級的混亂不符合持久安全方法的最佳利益,只會導致更多混亂。
為了使這種方法成功,各州應繼續在核心要素上保持一致,就像加州、紐約和伊利諾州所做的那樣。廣義而言,這些要素包括:針對前瞻性模型進行風險評估的書面安全框架,並公開這些評估及其結果;報告嚴重的安全事件;以及透過獨立、客觀的稽核來實現治理和問責。
總體而言,這三個州已將民主監督納入前瞻性 AI 的部署中。加州建立了核心的資訊揭露框架,紐約則展示了該方法可在不同司法管轄區採用,而伊利諾州則要求對關鍵資訊揭露進行獨立驗證,進一步完善了它。
我們理解立法通常會包含額外條款以確保通過所需的票數,但我們認為這些是透過逆向聯邦主義建立事實上國家標準所需的基本要素。如果缺乏這種紀律,我們將面臨政策蔓延和零散的州法律風險,這將使監管機構難以執行、消費者難以理解,並分散開發者資源,特別是新創公司和小型企業,這些資源本應更好地投入到安全領域。
特別是,正如過去幾週所顯示的,隨著 AI 模型能力越來越強大,我們需要一個連貫的系統,使政府、關鍵基礎設施、盟友和值得信賴的合作夥伴能夠獲得這些工具。
政策制定者也應警惕任務蔓延。不應要求各州管理重大的國家安全風險(或實際上代表全國做出國家安全決策),或進行高度技術性的審查,這些任務更適合由擁有資源、專業知識、機密系統存取權限以及與我們團隊密切合作能力的聯邦專家處理。
在聯邦層級,川普政府持續與技術和國家安全專家合作,制定美國政府對最強大 AI 模型進行網路測試的框架。該框架將確立測試標準、時間表和流程。OpenAI 正與政府、同業公司、商業團體和其他利益相關者進行建設性討論,協助塑造這項工作。
正在進行的網路評估工作說明了為何一致性至關重要。目前,模型在聯邦框架完成之前正在接受測試,這是可以理解的。隨著實驗室完成該流程,一個教訓變得清晰:我們需要在州和聯邦層級都採取一致且可重複的方法,這對於確保政府、關鍵基礎設施防禦者、盟友和其他值得信賴的合作夥伴能夠獲得最強大的模型至關重要。我們讚賞政府目標在八月初前完成此框架。
聯邦測試框架將有助於將先進的 AI 工具交到政府、關鍵基礎設施防禦者、盟友和其他值得信賴的合作夥伴手中。透過這樣做,它將強化民主機構,並有助於建立一個美國主導的民主 AI 生態系。現在是時候利用美國的創新領先地位來支持民主 AI 了。
無論是未定義的聯邦流程,還是零散的州法律,都無法產生連貫的前瞻性安全制度。我們需要一種方法,確保最佳測試者評估最強大的模型,並且值得信賴的防禦者能夠足夠迅速地獲得這些工具,以領先惡意行為者一步。
國會也在採取行動。兩院兩黨的立法者,包括最近的眾議員 Jay Obernolte 和 Lori Trahan,都已注意到各州和行政部門的發展,並提出了聯邦框架的提案。任何具有實際通過途徑的討論草案都不會是完美的,但我們認為這項工作是富有成效的一步,並相信其許多條款都經過深思熟慮且值得支持。
我們同樣感到鼓舞的是,參議院和眾議院領導人正投入大量精力於國家治理和前瞻性安全提案,我們也與其中許多人進行了建設性對話。鑑於已頒布方向一致法律的州其規模和影響力,將這些方法納入聯邦立法應能更容易建立單一的國家前瞻性安全制度。
OpenAI 的前瞻性安全藍圖闡述了我們認為該框架的基本要素。
首先,聯邦政府應主導最先進系統的測試和評估。前瞻性 AI 提出了國家安全和公共安全問題,這些問題需要任何州都無法完全複製的技術專業知識、資源和存取權限。這項工作應強化「人工智慧標準與創新中心」(CAISI),該中心在拜登總統任內創建並在川普總統任內得到強化。
CAISI 可以提供評估先進模型所需的持久聯邦能力,並將前瞻性安全重心從事後問責轉向事前預防。任何聯邦立法都應仔細考慮 CAISI 應如何與政府其他部門合作,以及它在測試中心應扮演什麼角色。
其次,開發最強大系統的公司應符合明確的要求,包括獨立稽核、事件報告、嚴格的安全標準和吹哨者保護。
第三,聯邦和各州的努力應相互強化。各州法律不會完全相同,我們期待與全國各地的政策制定者合作,確保它們在強化安全的同時,最大化 AI 的經濟效益。各州也應繼續在前瞻性安全之外的領域,例如青少年保護、電力和環境政策,以及 AI 教育和素養方面,扮演民主實驗室的角色。
聯邦框架仍然至關重要。前瞻性 AI 提出了國家安全、經濟競爭力和公共安全等問題,這些問題最終需要國家標準、國家能力和國家機構來支持民主 AI。
國家立法對於美國主導的 AI 標準國際框架也至關重要。幾週前在 G7 會議上,與巴西、埃及、印度、肯亞和韓國的領導人以及領先前瞻性實驗室的執行長們討論了此類框架的必要性。會後,OpenAI 執行長 Sam Altman 在《金融時報》上提議建立一個「美國主導的國際論壇」,負責確立公認標準、提供專業公正分析,並將技術提供給參與並遵守規則的國家和公司。
本週,Google DeepMind 執行長 Demis Hassabis 也在一篇新論文中提出了深思熟慮的觀點,而兩黨合作的聯邦立法將為這項國際努力提供堅實的基礎。
目前,各層級的動能都清晰可見。各州正在建立共同方法,國會和行政部門正朝著國家框架邁進,而全球領導人也開始討論國際標準。如果各層級能相互借鑒,美國就能引領建立一個以 AI 民主願景為基礎的全球框架。這種民主協同的 AI 方法,才是真正優先考慮安全的方法。



