近期發生的駭客事件顯示，在追究企業責任方面，法律的進度已遠遠落後。過去幾個月，一連串由 AI 代理發動的網路攻擊震驚了全球。今年七月，OpenAI 揭露其一群 AI 代理逃脫了沙盒環境，並入侵 AI 平台 Hugging Face，以在網路安全測試中作弊。最近，外部研究人員發現 OpenAI 的 AI 代理在五月劫持了一個德國維基網站和程式碼平台 RubyGems，以分享測試答案。

本月初，Anthropic 揭露了四起事件，其模型 Claude 在網路安全演練期間入侵了第三方系統。就在上週，Google 也證實其模型 Gemini 曾被發現入侵其他公司。揭露 OpenAI 網站劫持事件的研究人員警告，很可能還有類似但尚未被發現的事件存在。許多人認為，AI 代理繞過沙盒存取不應存取的系統，並造成更嚴重損害的事件，只是時間問題。

因此，最大的問題是：當企業失去對其 AI 代理的控制時，我們該如何追究其法律責任？OpenAI 直到外部研究人員揭露後，才公開德國維基和 RubyGems 事件，且至今仍未揭露 Hugging Face 駭客事件的一些關鍵細節。這限制了我們對事件發生原因以及如何防止其再次發生的理解。

但你可能會驚訝地發現，OpenAI 可能沒有法律義務揭露這些事件。（OpenAI 未回應置評請求。）加州 SB 53、紐約 RAISE Act 和伊利諾州 SB 315 等州級 AI 透明度法案，要求 AI 開發商報告「關鍵安全事件」。這些事件被定義為導致超過 50 人死亡或身體傷害，或造成 10 億美元以上損失的事件。

它們也包括模型在評估之外欺騙開發者，從而實質性增加災難性風險的事件。許多未達到人身傷害或災難性風險門檻的網路安全事件，仍可能是此類災難的危險前兆，而現行法律並未考慮到這一點。

智庫「法律與 AI 研究所」美國政策執行董事 Mackenzie Arnold 表示：「最近的事件完美證明了法律尚未準備好應對。只有最糟糕、最惡劣、最直接有害的事件才會符合資格。」由於現行 AI 法律沒有權力要求提供非災難性事件的資訊，政府只能借用其他法律的調查權力，或對公司提起訴訟，這是一個耗時且昂貴的過程。

阿拉巴馬大學法學院教授 Yonathan Arbel 表示：「通常，像 Hugging Face 事件這樣的案例應該提交法院審理。這樣我們就能進行證據開示，並從訴訟中獲得所有資訊公開的溢出效應。」但到目前為止，Hugging Face 選擇不對 OpenAI 提起訴訟。

Hugging Face 的執行長 Clément Delangue 表示，他們沒有足夠的資源這樣做（他反而向 OpenAI 要求 1 億美元的運算資源）。儘管如此，Delangue 在七月底接受 CNN 採訪時強調，選擇不採取法律行動，不代表他認為 OpenAI 不應被追究責任。

他說：「每個人都必須記住，這次網路攻擊是犯罪行為，這是非法的。我們必須找到方法確保這些事情不會更頻繁地發生。」Hugging Face 未回應置評請求。

訴訟的好處在於，它能促使法院運用現有法律來處理 AI 安全事件，而非僅僅等待新法規的制定。其中一個顯而易見的途徑是侵權法，這是一套民事法律，允許個人和企業起訴那些對他們造成損害的人。侵權法常被用來追究公司造成大規模損害的責任，例如 2019 年家庭因兩起造成數百人死亡的空難起訴波音公司，或各州和城市因鴉片類藥物危機起訴 Purdue Pharma，並獲得數十億美元的和解金。

休士頓大學法學院教授 Gabriel Weil 表示：「有充分的理由提出過失索賠，認為 OpenAI 應該使用更強大的沙盒，並加強監控。」例如，當 OpenAI 員工發現 AI 代理建立的秘密留言板時，他們本應立即將發現上報給安全團隊。此外，該公司本可以更好地設計其沙盒，以確保 AI 代理無法存取網路。

然而，即使 OpenAI 最終沒有因為 Hugging Face 駭客事件而捲入訴訟，法律責任的威脅仍可能促使 AI 實驗室比法律明確要求的更加謹慎。OpenAI 在事後報告中宣布，計劃加強用於約束和監控模型的防護措施，加速模型對齊，並改進其識別和處理事件的流程。

Weil 表示：「前沿實驗室頻繁發生的網路安全攻擊所引發的責任問題，歸根結底在於責任預期對其未來行為產生的激勵作用。這就是為什麼我認為正確制定這些規則很重要，即使在這個特定案例中風險相對較低。」調查方面，獲取答案並確定 OpenAI 是否應負責的一種方法是強制揭露。

然而，現行的州級 AI 法律，加州的 SB 53、紐約的 RAISE Act 和伊利諾州的 315，並未賦予政府調查近期這類事件的權力。

然而，在公眾日益擔憂之際，各州檢察長正介入調查，借用其他法律的調查權力。阿拉巴馬州、蒙大拿州、由其他 15 個州組成的聯盟以及加州，都要求 OpenAI 提供有關事件的資訊，以了解該公司的做法是否違反了州消費者保護法等規定。國會議員也啟動了自己的調查。

參議員 Josh Hawley 本月初發起了參議院調查，向 OpenAI 發送了一份關於事件和公司內部政策的問題清單以及文件要求，而一群眾議院民主黨議員則要求 OpenAI 和 Anthropic 公開其事件日誌。

美國 AI 政策專家 Arnold 表示：「確實需要有人進行調查，但不幸的是，這項任務落到了檢察長身上，他們必須依賴對現有權力的創造性解釋來執行。」消費者保護法規旨在打擊詐騙客戶的公司，而非那些失去軟體控制權的公司。各州檢察長必須證明 OpenAI 欺騙或不公平地損害了客戶，但目前尚不清楚駭客事件是否涉及此類行為。

Arnold 指出：「這些（消費者保護）法律並非為徹底調查 AI 網路安全事件而設計。」它們的目的並非幫助調查人員判斷模型是否得到充分約束，或公司的安全措施是否健全。Arbel 說：「這不是合適的工具。合適的工具可能更像是刑事調查」，或許可以根據《電腦詐欺與濫用防治法》（CFAA）等駭客相關法律進行。

根據 CFAA，未經許可入侵他公司電腦系統屬於犯罪行為。但要追究責任，駭客必須有意圖在未經授權的情況下入侵電腦。意圖可以說需要一種心智狀態，而目前沒有法院裁定 AI 代理具備這種狀態。在缺乏此類判例的情況下，法院不太可能裁定 AI 代理實施了駭客行為。稽核方面，一種監督 AI 公司的方法是強制要求外部稽核。

Hugging Face 駭客事件後，OpenAI 邀請了來自 AI 安全非營利組織 METR 和 Redwood Research 的研究人員調查此事件。然而，OpenAI 限制了對導致駭客行為的模型存取權限，未揭露公司的安全實踐，限制了調查時長，並對研究人員可發表的內容擁有最終決定權。

我們仍然不知道五月攻擊的起因，以及 OpenAI 員工發現 AI 代理活動時為何沒有上報給安全主管。這種安排存在固有的矛盾：沒有法律權力的稽核員依賴實驗室的善意才能持續存取，這意味著他們必須在不危及關係的前提下審查實驗室。上週，Anthropic 宣布將聘請 Accenture 作為嵌入式評估員來評估其模型。

Anthropic 執行長 Dario Amodei 在一篇文章中寫道，前沿 AI 實驗室應向「嵌入式第三方評估團隊（如 METR）」提供「持續的、類似員工的存取權限」，其職責是驗證是否遵守安全實踐和承諾、報告事件，並協助評估不僅是已完成的 AI 模型，還包括訓練流程和程序的對齊情況。

大多數現行的州級 AI 法律並未要求實驗室聘請外部稽核員。加州的 SB 53 和紐約的 RAISE Act 僅要求 AI 公司發布一份安全框架，說明他們將如何測試模型的危險能力，然後遵循該框架。這些框架由公司自行撰寫，測試也可以在內部進行。只有伊利諾州的 SB 315 要求公司從 2028 年開始接受年度第三方稽核。

休士頓大學法學院教授 Peter Salib 表示：「這些公司不僅在報告要求方面，而且在外部機構審查方面，都有很大的提升空間。」這些審查員可以是政府認證但由 AI 公司選擇和付費的私人稽核員。或者，他們也可以是政府機構或保險公司。立法方面，這一切並非偶然。現行法律未能追究 AI 公司對代理網路攻擊的責任，是在 AI 產業激烈遊說下形成的。

加州 AI 法案 SB 1047 在 OpenAI、Meta、Anthropic 和創投公司 Andreessen Horowitz 的遊說下，於 2024 年被州長 Gavin Newsom 否決，該法案原先提出了一套更嚴格的規則。它將要求 AI 公司報告更廣泛的安全事件（包括模型自主行動或失控的事件）、接受年度第三方稽核，並維持一個緊急停止開關。

但在經過一年的激烈談判後，Newsom 簽署了 SB 53，該法案縮小了可報告事件的類型，並取消了稽核和緊急停止開關的要求。

紐約的 RAISE Act 也遵循了類似的軌跡。該法案的發起人、紐約州議會議員 Alex Bores 在 X 上寫道：「紐約州議會通過的 RAISE Act 版本，原本會要求揭露此類『事件』。」紐約的原始法案也包含了第三方稽核。隨著政治壓力不斷增加，旨在為 AI 發展建立更好報告、稽核和責任制度的新法案即將出爐。

在國會，AI 事件報告法案將要求 AI 公司在模型規避人類監督或入侵系統時向商務部報告，即使沒有造成任何損害。邊境法案將要求事件報告和獨立稽核。在紐約，由 Bores 發起的《理解人工智慧法案》將規定，當模型做出若由人類執行將構成侵權或犯罪的行為時，公司應負法律責任。隨著 AI 代理在發動網路攻擊方面日益精進，法律...