跳到主要內容
maxstudioNews
商業The Verge AI約 2 分鐘

川普簽署行政命令 強化AI模型發布前安全審查

川普總統簽署一項行政命令,建立AI公司在發布其前沿模型前,可自願與聯邦政府分享的框架。此舉旨在促進安全創新並強化關鍵基礎設施的網路安全,同時也承認AI新功能帶來的潛在風險。公司可選擇在公開發布前最多30天內分享模型,並獲得保密保護。

川普簽署行政命令 強化AI模型發布前安全審查
圖片來源:The Verge AI

Lauren Feiner 是 The Verge 的資深政策記者,主要報導矽谷與國會山莊的交集。她曾在 CNBC 擔任科技政策記者五年,報導反壟斷、隱私權和內容審核改革。川普總統週二簽署了一項行政命令,為AI公司建立一個「自願性框架」,要求他們在發布其前沿模型前,先與聯邦政府分享,以「促進安全創新並強化關鍵基礎設施的網路安全」。

該命令指出,美國AI產業之所以成功,部分原因在於「我們拒絕以過度繁重的法規扼殺這項創新」,但也承認新的AI功能伴隨著安全風險。因此,它指示多個聯邦機構提出一個框架,以在AI模型向公眾發布前,「評估其進階網路能力」。公司將可自行決定是否在發布前與政府分享其模型,但若選擇這麼做,則可獲得特定的保密保護。

該命令還要求聯邦政府為AI準備網路防禦措施,特別是針對關鍵基礎設施。這項命令是在川普最後一刻推遲簽署一項先前計畫的行政命令之後發布的,他擔心該命令可能會「阻礙」與中國的競爭。《紐約時報》報導指出,早期版本允許AI公司在發布前14到90天自願分享其模型,而目前版本則要求公司在公開發布前最多30天分享。

上個月,Google、Microsoft 和 xAI 已同意接受商務部AI標準與創新中心(CAISI)的發布前審查。早在2024年,OpenAI 和 Anthropic 就已在拜登總統任內同意與 CAISI 分享其模型,作為拜登推動AI安全防護措施的一部分。

然而,直到最近,川普政府在前白宮AI沙皇 David Sacks 的領導下,一直淡化安全疑慮並採取不干預的態度。週二簽署的命令明確指出,這不應被視為強制許可或預先審批的形式。儘管如此,它仍反映出川普政府對AI公司實施監督的某種意願。「白宮正式被 Mythos 說服了」這次轉變的一個因素,可能是 Anthropic 在四月有限度地推出了其強大的 Mythos 模型。

該公司表示,Mythos 發現了「數千個高嚴重性漏洞,包括每個主要作業系統和網路瀏覽器中的一些漏洞」。Mythos 似乎也為 Anthropic 與政府之間的緊張關係創造了緩和的機會,此前 Anthropic 曾因其將AI用於自主致命武器和大規模監控而與五角大廈發生法律糾紛。

這項新簽署的命令迄今為止獲得了讚揚,甚至包括那些曾主張反對限制州級AI法律的團體。美國負責任創新協會主席 Brad Carson 在一份聲明中表示:「白宮正式被 Mythos 說服了」,並補充說,該命令顯示川普政府正認真對待AI漏洞。安全AI聯盟執行長 Brendan Steinhauser 表示,他的團體「樂見川普政府認真看待這些模型的風險」,Steinhauser 和 Carson 都敦促國會將強制性保護措施法典化。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 The Verge AI 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。