Altman 被指控使 ChatGPT 不安全這起訴訟加入了先前指控 Altman 漠視使用者安全,輕率部署 AI 系統的案件。在他的訴狀中,Uthmeier 回顧了 Altman 曾向 TED2025 與會者表示,目前 OpenAI 在真實使用者身上進行產品安全測試的「風險相對較低」,並聲稱這是迭代改進產品的唯一方式。
「但風險並不低」Uthmeier 說。「佛羅里達州居民,包括我們脆弱的兒童,因被告欺騙性、不道德且魯莽危險的行為,遭受了金錢損失、心理健康損害、認知能力下降和身體傷害。被告必須為他們造成的損害以及他們和 ChatGPT 持續對佛羅里達州居民構成的危險負責。」
在一份新聞稿中,Uthmeier 聲稱 OpenAI 在急於將 ChatGPT model 4o 等產品推向市場時,「無視內部和外部的安全警告,讓兒童面臨巨大風險,並允許危險產品觸及數百萬佛羅里達州居民。」同樣,訴狀指出,Altman 必須為他作為 OpenAI 創辦人兼執行長,透過其魯莽和故意的行為對佛羅里達州居民造成的損害承擔「個人責任」,包括他對公司行為造成人類生命風險的完全漠視。
如果敗訴,OpenAI 可能面臨壓力,需實施補救措施,例如對免費 ChatGPT 帳戶實施年齡限制以保護兒童、關閉討論暴力和自殺的對話,以及移除該州聲稱會欺騙性地讓 ChatGPT 感覺像與真人對話的功能。如果沒有更多的家長控制措施,該州可能會推動禁止青少年使用 ChatGPT。
訴狀稱:「ChatGPT 對於佛羅里達州的青少年來說並不安全;它的使用可能導致自殘、認知能力下降和行為成癮。」在 X 上直播的記者會上,Uthmeier 誓言將與其他希望保護兒童的州合作,追究 OpenAI 的責任,並回答了記者的提問。當被問及該州是否計劃追究所有 AI 公司,而不僅僅是 OpenAI,時,Uthmeier 表示佛羅里達州「當然」正在審查其他平台,但「ChatGPT 似乎是最惡劣的」,而 Altman 在推動對兒童危險的功能方面「扮演核心角色」。「準備好戰鬥吧,目前沒有比這更重要的了」Uthmeier 說。

