這篇文章最初刊登於《演算法》，我們的每週 AI 電子報。若想搶先收到類似報導，請在此處訂閱。對於那些享受夏季、尚未意識到 Anthropic 與美國政府最新爭議的人，以下是事件回顧：今年四月，Anthropic 表示已開發出一款名為 Mythos 的 AI 模型，其程式碼處理能力極為出色，可能構成全球網路安全威脅。

Anthropic 讓一小群網路安全專家存取該模型，以便他們了解所面臨的挑戰。隨後，該公司於六月九日週二發布了一個修改版 Fable，聲稱對公眾更安全。然而，就在那個週五，聯邦政府告知該公司其模型對國家安全構成威脅，並對新發布的模型實施了出口管制。Anthropic 在數小時後撤回了對這兩個模型的存取權限。

那些擔憂 AI 帶來災難性影響的人，廣泛被稱為「末日論者」，多年來一直聲稱這項技術對人類構成威脅，並發表了政府應如何介入其發展的提案。這些末日論者剛剛獲得了政府的介入，並非針對生化武器或失控的 AI，而是針對一個基本上只是非常擅長程式碼的 AI 模型。而迄今為止的結果，看起來更像是表面反應，而非完善的安全計畫。

在短短幾天內，究竟發生了什麼導致政府採取如此激烈的行動，其中有許多值得剖析之處。值得注意的是，是 Amazon 執行長 Andy Jassy 告知政府官員 Fable 將會很危險（Amazon 既投資了 Anthropic，也正在開發自己的競爭性 AI 模型）。這也可能只是政府短暫的禁令，未必能經受法律審查（例如，Anthropic 提供 Fable 存取權是否真的算作「出口」，目前尚不明確）。

然而，連鎖反應已經開始。首先，這讓許多人不再願意依賴美國的 AI 公司。法國政治家 Bruno Retailleau 形容這是一個「警鐘」，應激勵歐洲發展更多 AI。但許多其他歐洲領導人呼籲將巴黎打造成矽谷的願景，卻因一個關鍵因素而變得複雜：中國。

來自中國的開源模型功能強大且價格低廉，任何人都可以下載並在自己的伺服器上運行，不受任何規則或限制。（這對不希望因白宮決策而被關閉存取權限的公司很有吸引力，但對網路犯罪分子也同樣有吸引力，而 Anthropic 希望透過在模型中建立安全護欄來防禦這類犯罪分子。）

包括美國和歐洲在內的許多公司可能會認為使用中國模型更為簡便，中國新創公司 Zhipu 股價飆升就是例證。進一步推測，政府的下一個激烈決定是否會是認定美國公司使用中國模型構成國家安全威脅？我不會排除這種可能性。

其次，關閉 Anthropic 模型存取權限，可能反而會讓國家更容易受到網路攻擊，而非更安全。領先的網路安全專家已在致政府的公開信中表達此觀點，指出 Anthropic 模型有助於研究人員準備防禦，且該公司的模型危險性不比其他廣泛可用的領先模型更高。這就是將核武器鈾的「不擴散」概念應用於軟體的風險，試圖以控制核武器材料的方式來控制和限制危險的 AI 模型。

第三個值得關注的是美國立法者將如何反應。回想 Anthropic 上次與政府就五角大廈能否使用其模型的爭議後，就提出了一系列新法案，旨在界定軍事 AI 的限制。

目前，影響 AI 使用方式的最大參與者是公司和白宮。關於更多聯邦 AI 監管的討論甚多，民意調查顯示大多數美國人也希望如此。立法者仍在研究如何制定兒童使用聊天機器人的規則，距離政府應審查 AI 模型安全性的程度還有很長的路要走。但白宮每採取一次激烈行動，對監管的壓力就隨之增加。

顯而易見的是，當政府對 AI 的態度隨風向轉變時，預測會變得困難。川普總統上任時，他廢除了限制 AI 安全的規則手冊，並承諾不干預科技公司。現在，白宮在春季和夏季兩度將這家最有價值的 AI 新創公司稱為國家安全風險。秋季又會帶來什麼呢？