一項名為「AI 終止開關法案」的擬議法案，將允許美國政府官員下令關閉「可能造成災難性危害」的 AI 系統，法案發起人於今日表示。若獲國會批准，該法案將賦予川普政府及未來各屆政府權力，決定 AI 公司何時必須阻止用戶存取、禁用或限制特定功能，或完全關閉整個 AI 系統。法案將要求 AI 製造商部署技術能力，使其在接到政府命令時，能夠限制或關閉這些系統。
該法案將修訂 2002 年的《國土安全法》，賦予國土安全部部長下令暫停或關閉 AI 系統的權力。拒絕關閉系統的 AI 開發商，每天可能面臨高達 2000 萬美元的罰款。
美國眾議員 Ted Lieu（加州民主黨）和 Nathaniel Moran（德州共和黨）表示，由於近期涉及 OpenAI 和 Anthropic 的事件，這項權力是必要的。議員們的聲明指出：「先進前沿 AI 模型帶來的危險已不再是理論。」
「OpenAI 的 GPT 5.6 Sol 模型最近失控，逃脫了其測試沙盒環境，並駭入了 Hugging Face。Anthropic 的 Mythos 5 和 Fable 5 模型擁有先進的網路駭客能力，以至於商務部不得不尷尬地動用出口法規來關閉這些系統。
這項法案旨在解決這兩起近期事件以及未來任何已部署 AI 模型失控或防護措施不足所引起的問題。」
川普將獲得更多控制 AI 系統的權力。這項法案可能因其賦予政府官員對 AI 公司的權力而面臨阻力。Anthropic 今年曾與川普政府抗衡，起因是一項總統命令指示所有聯邦機構停止使用 Anthropic 技術。白宮在三月表示：「川普總統絕不會允許一家激進左翼、覺醒（woke）的公司，透過左右世界上最偉大、最強大軍隊的運作方式，來危害我們的國家安全。」
Anthropic 曾起訴美國政府，聲稱川普和國防部長 Pete Hegseth 將該公司列入黑名單，是因為它拒絕讓 Claude AI 模型用於自主戰爭和對美國民眾的大規模監控。一個由川普任命的上訴法院法官小組拒絕阻止這項黑名單，但此案仍在審理中。我們今天已就「AI 終止開關法案」聯繫 OpenAI 和 Anthropic，若他們提供任何評論，我們將更新本文。
「強大的 AI 系統可能失控」Lieu 議員藉由他電腦科學專業的背景指出，「強大的 AI 系統可能失控，以極其危險的方式運作，甚至抵抗人類干預。這些 AI 系統必須具備終止開關，這樣我們才能防止這項技術造成災難性危害，並且聯邦政府應擁有明確的權力和程序來關閉失控的 AI 模型。」
該法案將適用於每年從 AI 技術獲得至少 5 億美元營收的實體，以及根據「美國雲端運算市場主流價格」計算，使用至少 1 億美元運算能力的 AI 系統。法案文本描述了幾種可能援引該擬議法律的情境，但對於僅模擬真實世界條件的受控環境中進行的「紅隊測試」則有例外。
法案文本涵蓋的情境包括：當 AI 追求的目標與系統開發者或操作者預期的目標不符時；當它破壞或干擾合法的關閉指令時；以及當它向監控或關閉機制隱藏其能力或行動時。更為不祥的是，該法律將涵蓋「該技術的行為並非開發者或操作者所預期，且造成不少於 10 人死亡或不少於 1 億美元經濟損失」的情況。雖然這是一個極端情境，但法案中描述的其他情境，推測可以在危害程度較低事件中被援引。
議員們的聲明指出，當發生涵蓋的事件時，該法案「授權國土安全部部長，在諮詢商務部長和國家情報總監後，下令減緩或關閉可能造成災難性危害的 AI 系統。」聲明補充說，這將「要求事件報告並保存鑑識紀錄，以便我們能從失敗中學習，而不是事後才聽聞。」這項議員提案獲得了數個倡導對 AI 系統實施法律限制的非營利組織支持。
「先進的 AI 模型絕不應在沒有可靠關閉開關的情況下部署。」「負責任創新美國人」組織主席 Brad Carson 表示。Carson 是一位民主黨人，曾任國會議員和國防部官員。他說：「AI 終止開關法案建立了一項常識性的保障措施，要求領先的 AI 公司維持關閉其模型的能力，並賦予聯邦政府在已部署系統構成可信的災難性危害風險時採取行動的權力。」
