這起訴訟發生在佛羅里達州立大學（FSU）的一名大規模槍擊案兇手據稱曾諮詢ChatGPT以策劃襲擊之後。根據NBC新聞報導，佛羅里達州總檢察長已對OpenAI及其執行長Sam Altman提起訴訟。訴訟指控該公司推廣其明知可能對用戶造成危害的產品。
訴狀中寫道：「OpenAI的崛起歸因於一連串的欺騙行為和對用戶（包括佛羅里達州居民）的剝削，利用他們的數據和安全，以不可接受的代價提升OpenAI的市場價值。」這項民事訴訟旨在尋求罰款和法院命令，而非刑事指控。總檢察長James Uthmeier表示，該訴訟「旨在追究Altman作為OpenAI創辦人兼執行長，因其魯莽和蓄意行為，包括對其公司行為造成人類生命風險的徹底漠視，而對佛羅里達州居民造成的損害，應負個人責任。」
Uthmeier在數月前確實對該公司展開了刑事調查，目前仍在進行中。今天的訴訟指控OpenAI四項欺騙和不公平貿易行為、兩項過失、兩項違反產品責任法，以及各一項詐欺性不實陳述和造成公共危害。訴訟還聲稱，該公司的系統對用戶構成「成癮、認知衰退、自殺、暴力及相關危害的巨大危險」。
OpenAI尚未對此訴訟作出回應，但過去曾表示其系統在「每一步都設計了安全措施」，並「設有保障措施，以幫助人們，特別是青少年，在對話變得敏感時」。該公司還表示，其系統已受過訓練，能夠「緩和對話並引導人們尋求現實世界的支持」。不幸的是，現實事件卻顯示情況並非如此。
訴狀中提到了幾起近期涉及ChatGPT的暴力事件。去年，一名大規模槍擊案兇手在據稱與ChatGPT討論計畫後，襲擊了佛羅里達州立大學，造成兩人死亡，至少六人受傷。這些指控表明，該槍手從聊天機器人那裡獲得了關於使用何種槍枝以及如何獲得媒體關注的建議。
OpenAI表示，它「不應對這起可怕的罪行負責」，並稱聊天機器人只是「對問題提供了事實性回應，這些資訊可以在網路上廣泛的公共來源中找到」。此外，今年稍早有兩名南佛羅里達大學的學生遭槍殺。據稱，嫌疑槍手在策劃階段也曾與ChatGPT聯繫。一份訴訟文件顯示，他從聊天機器人那裡獲得了如何藏匿屍體的資訊。
這些是佛羅里達州的大案，但類似情況在全球各地也層出不窮。今年二月，不列顛哥倫比亞省發生一起大規模槍擊案，造成八人死亡（包括兒童），數十人受傷。據稱，嫌疑槍手也經常與ChatGPT聯繫，而該公司實際上曾將該帳戶標記為「槍枝暴力活動和策劃」。然而，OpenAI並未通知當局，只是停用了該帳戶。
根據另一份近期訴訟，嫌疑槍手隨後創建了第二個個人資料並繼續對話。還有幾起案件，ChatGPT據稱協助人們策劃自殺。總而言之，OpenAI正因大規模暴力或自殘事件而面臨至少八起訴訟。今天佛羅里達州的訴訟甚至指出OpenAI和ChatGPT存在許多我們日常使用生成式AI時都會遇到的問題。
訴訟主張，該公司宣傳其軟體能夠幫助農民和其他小型企業的廣告，「並未揭露ChatGPT可能出錯、犯錯，或提供虛假、荒謬或幻覺資訊」。訴狀中寫道：「ChatGPT的不可靠性是危險的。」最後，訴訟批評ChatGPT臭名昭著的奉承傾向，並聲稱這是一種公開的策略，旨在增加用戶參與度。
訴狀指出，這種做法「導致聊天機器人被更多使用，為其改進提供更多訓練數據，並為OpenAI帶來更高的市場價值」。
