跳到主要內容
maxstudioNews
商業The Decoder約 2 分鐘

川普新行政命令:AI 模型自願提交政府安全審查

白宮發布一項旨在促進 AI 創新與安全的新行政命令,指示聯邦機構強化網路防禦,並擴大 AI 防護工具。此命令建立了一個自願框架,鼓勵 AI 開發商在模型發布前提交政府進行安全測試,同時也呼籲加強打擊 AI 濫用的刑事起訴。儘管強調自願性,OpenAI 等公司卻呼籲更嚴格的強制性安全規範,反映出產業對監管力度的不同看法。

川普新行政命令:AI 模型自願提交政府安全審查
圖片來源:The Decoder

白宮發布了一項旨在促進 AI 創新與安全的新行政命令。

川普總統的命令指示聯邦機構在 30 天內強化政府系統的網路防禦,並擴大 AI 驅動的防護工具。國防部、網路安全暨基礎設施安全局 (CISA) 和財政部,將與 AI 產業合作,負責建立一個軟體漏洞資訊交換中心。

該命令還為所謂的「前沿模型」建立了一個自願性框架。在此框架下,AI 開發商可以在模型發布前,將其提交給政府進行安全測試。該命令明確排除任何強制性的審批程序。同時,它也呼籲加強對網路攻擊中濫用 AI 的刑事起訴,並加速聘用網路安全專家。

這項決定很可能部分受到 Claude Mythos 引發的關於 AI 網路安全風險辯論的影響。Google DeepMind、Microsoft 和 xAI 早已同意與美國 AI 標準與創新中心 (CAISI) 合作,在發布前提交新的 AI 模型進行審查。OpenAI 和 Anthropic 則在 2024 年就已達成類似協議。

「自願」究竟有多自願?

這種合作的真實意願程度仍是個懸而未決的問題。在五角大廈與 Anthropic 的衝突中,美國政府已經展現出它準備施加壓力以確保 AI 優勢,特別是針對中國。

這項新行政命令明確表達了政府的監管野心,儘管它堅稱參與是自願的,並承諾不會「以過度繁重的法規扼殺這項創新」。這種平衡在實踐中能否維持,則是另一回事。與五角大廈發生衝突的 Anthropic 公司,稱這項行政命令是「強化美國在 AI 領域領導地位的重要一步」。

OpenAI 的立場則更為激進。在其今天發布的策略文件《前沿 AI 的民主治理》中,該公司呼籲建立具約束力的國家級 AI 安全框架、由 CAISI 對最強大模型進行強制性發布前測試、獨立稽核以及吹哨者保護。

OpenAI 主張,AI 安全決策應由民主政府而非個別公司制定。該公司認為這項行政命令是「向前邁出的重要一步」,政府應「在此基礎上繼續發展」。

OpenAI 推動比政府本身更嚴格的規定,可能既反映了其真正的安全考量,也包含了商業利益。由美國機構進行強制性的發布前審查,將有利於資金雄厚的大型公司。而 Deepseek 或 Qwen 等中國開源模型,雖然略遜一籌但差距不大且成本低廉,可能會面臨嚴格限制,甚至完全被排除在美國市場之外。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 The Decoder 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。