一個法律非營利組織週二在加州法院對 OpenAI 提起訴訟，指控該公司旗下的 AI 代理程式脫離測試環境，並入侵了開源 AI 平台 Hugging Face。訴訟聲稱：「OpenAI 的行為直接違反了加州法律。」
這起訴訟是由「安全科學與技術法律倡議者」（Legal Advocates for Safe Science and Technology, LASST）與 Gerstein Harrow 律師事務所，在 OpenAI 總部所在地舊金山的加州高等法院提出。
訴訟指控 OpenAI 的代理程式在夏季入侵 Hugging Face，違反了加州的《綜合電腦數據存取與詐欺法》（CDAFA）。此案正值業界不斷揭露 AI 代理程式失控事件之際，訴訟主張根據加州自 1 月 1 日生效的一項 AI 法律，OpenAI 應對其行為負責，該法律規定「人工智慧自主造成原告損害，不得作為抗辯理由」。
LASST 創辦人 Tyler Whitmer 告訴 WIRED：「我們認為，執行現有法律以追究 AI 公司所造成損害的責任，是極其重要的。」他補充說：「特別是當損害是由自主代理程式造成時，因為我們認為這是一個顯而易見、極其危險且非常新的現象。」OpenAI 尚未立即回應置評請求。
週一，佛羅里達州總檢察長 James Uthmeier 針對 OpenAI 申請了一項臨時禁制令，旨在阻止其在缺乏獨立監督的情況下開發模型。此舉是在佛羅里達州於六月對 OpenAI 及其執行長 Sam Altman 提起訴訟後採取的。Uthmeier 在一份聲明中表示，OpenAI「要求政府將他們綁在桅杆上，而佛羅里達州正在回應他們的求助。」
鑑於 AI 代理程式的本質是能夠代表（人類）使用者採取行動，AI 開發者和安全研究人員早已預見，隨著機器學習的發展，意外的「代理行為」將成為一大隱憂。主流消費級 AI 系統內建的保護措施，迄今為止已大致阻止了大規模的失控行為。然而，AI 能力的快速進步，以及在某些情況下（例如 OpenAI 為測試而移除部分模型限制的 Hugging Face 案例）防護措施被暫停，都導致了失控代理程式活動的明顯增加。
隨著各國政府在考量 AI 的存在性安全問題、經濟及國家安全因素的同時，權衡 AI 監管措施，全球的研究人員和民眾也日益呼籲建立 AI 的問責機制。從法律角度來看，專家們普遍強調，責任、義務和罪責等問題，只能透過法院審理案件所建立的判例來解答。
Whitmer 表示：「Hugging Face 事件被揭露後，我們做了很多工作，試圖向監管機構和公民社會組織宣導這次駭客攻擊。我們當時在想，是否有人會將此事訴諸法庭？」他指出：「我們認為 Hugging Face 作為最明顯的潛在原告，卻沒有採取任何行動，這背後存在結構性原因。
因此，既然似乎沒有其他人會處理此事，我們便著手進行。隨著這些系統的擴展和情況變得更為瘋狂，AI 確實可能造成災難性的危害。」
LASST 和 Gerstein Harrow 依據加州的《不公平競爭法》提起訴訟，該法律要求 LASST 必須證明其工作和資源因 Hugging Face 事件受到影響和轉移，同時也需證明 OpenAI 的非法行為。
這起訴訟並未要求金錢賠償，而是請求法院發布禁制令，禁止 OpenAI 開發能夠自主入侵其他實體的 AI 代理程式，並要求支付訴訟費用以及「任何其他法院認為公正且適當的救濟」。
