明智的監管還是審查制度？川普被迫承認拜登在 AI 安全測試上的觀點是正確的。本週，川普政府態度大轉彎，與 Google DeepMind、Microsoft 和 xAI 簽署協議，同意在這些公司的前沿 AI 模型發布前後，進行政府安全檢查。

此前，唐納·川普曾頑固地拋棄拜登時代的政策，將自願性安全檢查的需求斥為阻礙無拘束創新的過度監管。上任後不久，他更進一步將美國 AI 安全研究所（US AI Safety Institute）更名為 AI 標準與創新中心（Center for AI Standards and Innovation, CAISI），刻意從名稱中移除「安全」一詞，以諷刺喬·拜登。

然而，在 Anthropic 宣布其最新 Claude Mythos 模型發布風險過高，擔心惡意行為者可能利用其先進的網路安全能力，之後，川普突然開始關注 AI 安全。據《財富》雜誌報導，白宮國家經濟委員會主任 Kevin Hassett 表示，川普可能很快會發布一項行政命令，強制要求在發布前對先進 AI 系統進行政府測試。

在 CAISI 的新聞稿中，該中心承認 Google、Microsoft 和 xAI 簽署的自願協議「建立在」拜登的政策基礎上。CAISI 主任 Chris Fall 慶祝這些新夥伴關係時，並未提及 Mythos，但承諾「擴大的產業合作」將有助於 CAISI 在「關鍵時刻為公共利益」擴展其工作。

Fall 表示：「獨立、嚴謹的測量科學對於理解前沿 AI 及其國家安全影響至關重要。」迄今為止，CAISI 表示已完成約 40 項評估，其中包括尚未發布的前沿模型。CAISI 稱，在進行測試時，他們經常能接觸到「減少或移除防護措施」的模型，這讓他們能夠更「徹底地評估國家安全相關的能力和風險」。

CAISI 聲稱，透過這些評估，政府也將對模型能力有更深入的了解。CAISI 表示，為確保評估人員了解政府內部不斷出現的國家安全首要關切，一個「跨機構專家小組」已成立一個「專注於 AI 國家安全關切」的專案小組。一些已簽署協議的公司對 CAISI 的測試計畫表示信心。

Google DeepMind 前沿 AI 全球事務副總裁 Tom Lue 在 LinkedIn 上表示，他對 CAISI 的測試計畫感到「滿意」。Microsoft 在一篇部落格文章中表示，「針對國家安全和大規模公共安全風險的測試，必然需要與政府合作進行」，同時肯定了「像 CAISI 這樣的機構獨有的專業知識」來執行此類測試。

xAI 目前正與 OpenAI 進行一場關於哪家公司領導人更關心 AI 安全的訴訟，但未立即回應 Ars 的置評請求。然而，批評者對政府審查模型的計畫並不買帳，並且對那些 AI 模型設計大多保密的公司的疑慮日益加深。批評者指出，CAISI 可能缺乏評估前沿 AI 模型的資金或專業知識。

批評者警告，正如川普似乎懷疑的那樣，尋求 AI 公司的自願承諾，可能無法為公眾提供前沿 AI 風險所需的日常透明度。此外，評估過程中的任何政治化，例如反對發布其輸出結果不利於特定政府政治觀點的模型，都可能降低對 AI 的信任。若不加以制止，這最終可能勸退公司簽署協議，因為提高信任據稱是推動最新政府合作嘗試的關鍵動機。

無人知曉「安全」的定義。CAISI 在急於宣布合作夥伴時，並未明確說明將用於評估的測試標準。根據白宮國家網路總監辦公室前網路政策與戰略實施主任 Devin Lynch 在 LinkedIn 上發布的貼文，這可能是一個問題：「與前沿實驗室進行部署前評估，正是將信任、安全和保障融入 AI 所需的公私合作。

更困難的問題是，在 AI 前沿領域，『評估』究竟意味著什麼。能力評估的有效性取決於其背後的威脅模型。我們對 AI 技術堆疊的研究發現，治理層，標準、稽核、責任框架，仍然是最不成熟但卻最關鍵的。CAISI 需要定義並公布其測試的內容，而不僅僅是與誰進行測試。」

康乃爾大學科技政策研究所主任 Sarah Kreps 在提供給 Ars 的聲明中表示，隨著 AI 的進步，AI 公司應與政府建立更緊密的關係。然而，她指出，「『安全』的定義存在爭議」，而且「一旦你為技術建立政府審查流程，就會有好有壞」。Kreps 表示，如果沒有明確的標準，「這個過程可能會被政治化」。

這可能導致一個系統，其中「誰掌握權力，誰就能決定審查如何運作」。Kreps 說，到目前為止，拜登和川普政府都還沒有找到避免這種情況的方法。擔心政府控制 AI 輸出。Microsoft 的部落格文章指出，「CAISI、Microsoft 和 NIST 將合作改進對抗性評估的方法」，這表明該計畫是在實施過程中逐步制定這些標準。

Microsoft 表示，「以探測意外行為、濫用途徑和故障模式的方式測試 AI 系統」，「很像壓力測試安全氣囊、安全帶和煞車系統在安全關鍵駕駛情境中是否有效且可靠地運作」。但康乃爾大學機械與航太工程助理教授、AI 治理追蹤專家 Gregory Falco 堅稱有更好的方法。

Falco 表示：「政府對 AI 的監管不能僅僅意味著對模型輸出的政治審查，也不應成為決定模型是否對總統或政府發表有利或不利言論的機制。」Falco 說，美國不應依賴政治化的政府利用評估來控制公眾使用的 AI 系統，而應建立「某種形式的獨立稽核」。

Falco 建議，想像一下，如果 AI 公司明白他們的模型隨時可能被稽核，這樣的系統會產生多少問責制和紀律？Falco 表示，一個類似於美國國稅局（IRS）運作的嚴格 AI 稽核系統，可以為「輕率部署」帶來「實質後果」。Falco 建議，對於面臨這些後果的 AI 公司來說，壓力將促使他們加強內部 AI 安全測試。

Falco 表示，這似乎是「唯一可行的途徑」，因為「聯邦政府目前不具備直接自行評估這些系統所需的內部技術專業知識、基礎設施或日常洞察力」。AI 治理顧問兼 Humane Intelligence 創辦人 Rumman Chowdhury 也同樣批評 CAISI 的準備不足。

Chowdhury 告訴《財富》雜誌，「白宮目前對前沿 AI 模型提供『明智監管』的努力聽起來不錯，但魔鬼藏在細節裡。」Chowdhury 說：「這取決於他們對這些詞彙的解釋。評估是一種政策工具，它們實際上並非數據驅動。我擔心這只是政府想要擁有和運用的另一種政治工具。」

CAISI 可能缺乏資金。至於資金方面，《財富》雜誌報導，國會在一月份批准了高達 1000 萬美元用於擴展 CAISI。然而，保守派智庫 America First Policy Institute 最近進行的一項分析發現，「與國際同類機構相比，CAISI 仍資金不足，且缺乏『適當的資金』。」

對於批評者來說，CAISI 的測試計畫可能不足以保護公眾免受最不可預見的 AI 風險。Falco 堅稱，只有獨立稽核才能讓公眾免於最糟糕的結果。Falco 表示：「危險在於政府監管變得政治化、流於形式，或被其應評估的公司所掌控。機會在於建立一個實用的稽核框架，讓美國在 AI 領域保持全球領先地位，同時針對最重大的風險建立可信的問責制。」

對於 Lynch 來說，更大的考驗可能是川普的測試計畫能否成功達成其任務，即規避風險並增強對 AI 系統的信任，同時保持輕度干預以避免對公司進行過度監管。Lynch 說：「CAISI 正在這裡建立一些重要的東西。考驗將是這些合作能否激發創新、保護國家安全，並產生既受信任又值得信賴的 AI。」