跳到主要內容
maxstudioNews
商業Ars Technica AI約 2 分鐘

佛羅里達州控告OpenAI與Sam Altman,指控ChatGPT危害使用者安全

佛羅里達州對OpenAI及其執行長Sam Altman提起訴訟,指控ChatGPT產品存在安全疑慮,特別是對兒童造成傷害。訴訟聲稱OpenAI在未充分考量使用者安全下,輕率地將AI系統推向市場,導致金錢損失、心理健康問題及身體傷害,並要求OpenAI為此負責。

佛羅里達州控告OpenAI與Sam Altman,指控ChatGPT危害使用者安全
圖片來源:Ars Technica AI

Altman 被指控使 ChatGPT 不安全這起訴訟加入了先前指控 Altman 漠視使用者安全,輕率部署 AI 系統的案件。在他的訴狀中,Uthmeier 回顧了 Altman 曾向 TED2025 與會者表示,目前 OpenAI 在真實使用者身上進行產品安全測試的「風險相對較低」,並聲稱這是迭代改進產品的唯一方式。

「但風險並不低」Uthmeier 說。「佛羅里達州居民,包括我們脆弱的兒童,因被告欺騙性、不道德且魯莽危險的行為,遭受了金錢損失、心理健康損害、認知能力下降和身體傷害。被告必須為他們造成的損害以及他們和 ChatGPT 持續對佛羅里達州居民構成的危險負責。」

在一份新聞稿中,Uthmeier 聲稱 OpenAI 在急於將 ChatGPT model 4o 等產品推向市場時,「無視內部和外部的安全警告,讓兒童面臨巨大風險,並允許危險產品觸及數百萬佛羅里達州居民。」同樣,訴狀指出,Altman 必須為他作為 OpenAI 創辦人兼執行長,透過其魯莽和故意的行為對佛羅里達州居民造成的損害承擔「個人責任」,包括他對公司行為造成人類生命風險的完全漠視。

如果敗訴,OpenAI 可能面臨壓力,需實施補救措施,例如對免費 ChatGPT 帳戶實施年齡限制以保護兒童、關閉討論暴力和自殺的對話,以及移除該州聲稱會欺騙性地讓 ChatGPT 感覺像與真人對話的功能。如果沒有更多的家長控制措施,該州可能會推動禁止青少年使用 ChatGPT。

訴狀稱:「ChatGPT 對於佛羅里達州的青少年來說並不安全;它的使用可能導致自殘、認知能力下降和行為成癮。」在 X 上直播的記者會上,Uthmeier 誓言將與其他希望保護兒童的州合作,追究 OpenAI 的責任,並回答了記者的提問。當被問及該州是否計劃追究所有 AI 公司,而不僅僅是 OpenAI,時,Uthmeier 表示佛羅里達州「當然」正在審查其他平台,但「ChatGPT 似乎是最惡劣的」,而 Altman 在推動對兒童危險的功能方面「扮演核心角色」。「準備好戰鬥吧,目前沒有比這更重要的了」Uthmeier 說。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 Ars Technica AI 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。