xAI 現被指控使用兒童性虐待材料（CSAM）訓練 Grok 模型。隨著監管機構和法院持續調查此問題的嚴重性，已有部分 Grok 用戶因此被捕。

在週三提交的一份訴狀中，一位化名 Jane Doe 的原告解釋，她在 2000 年代初期學齡前，曾被成年男性反覆性侵，並被製作成 CSAM 在網路上販售給戀童癖者。此後，Doe 的影像已被國家失蹤及受剝削兒童中心（NCMEC）和加拿大兒童保護中心（CCCP）等組織進行雜湊處理。

為了自身安全，Doe 選擇從美國司法部受害者通知系統接收警報，以便在新刑事調查中若她可能成為受害者時能及時獲知。儘管她已收到無數警報，但當 CCCP 通知她在 xAI 上發現描繪她的 AI 生成 CSAM 時，她感到震驚。這讓 Doe 再次受到創傷，她的訴狀指控在網路論壇上發現「犯罪者之間討論如何創建原告及其他類似已知 CSAM 舊受害者的 AI 生成 CSAM」的訊息。

現在，Doe 擔心 xAI 不僅讓製作更多關於她生命中最痛苦時期的侵犯性影像變得更容易，而且 xAI 據稱還儲存了 Grok 生成的影像，並利用這些輸出進一步訓練 Grok。因此，她認為 Grok 已經同時使用了困擾她 20 多年的原始影像，以及最近 AI 生成的影像進行訓練。

這是首例指控 xAI 使用 CSAM 進行訓練的案件，訴狀中並未詳細說明這項指控。此前，Ars 曾報導一個具爭議性的資料集，該資料集在研究人員發現訓練資料中含有 CSAM 後被清除，但沒有跡象表明 xAI 曾使用該資料。在代表 Doe 的律師發布的新聞稿中解釋，Doe 的影像被納入 NCMEC 維護的 CSAM 雜湊清單中，而「相同的材料」據稱「是 xAI 用來建立 Grok 影像和影片生成能力的資料集的一部分」。

訴狀也僅指控「描繪原告且具有長期已知雜湊值的 CSAM 已被 xAI 用作其資料集的一部分」。

然而，關於 Grok 訓練使用 AI 生成 CSAM 的指控則有更多細節。

Doe 的訴狀指出：「由於 Grok 的條款預設將公開的 X 貼文和 Grok 自身的輸出視為訓練資料，公開發布影像不僅會讓觀看者看到，還會直接進入 xAI 用來訓練和改進其模型，進而生成更多影像的管道。」

訴訟進一步指出，雖然 xAI 會過濾 Grok 輸出中的暴力內容，以將其排除在訓練資料之外，但 xAI 的條款並未明確說明 CSAM、未經同意的私密影像（NCII）或 NSFW 材料是否屬於「排除類別」。

Doe 的訴狀稱：「因此，從一個已訓練好的模型中完全移除訓練範例的影響在技術上是困難的，且 xAI 並未公開宣稱已做到這一點，任何在移除前被納入訓練的 CSAM，即使原始影像已從公眾視野中移除，仍可能繼續影響模型的輸出。」

在她提出的集體訴訟中，Doe 旨在終止 Grok 的有害輸出。如果獲得批准，該集體將代表所有童年影像被用於生成 Grok CSAM 的受害者。

該訴訟指控 X 違反了聯邦兒童色情法以及 Masha's Law，這兩項法律都賦予 CSAM 倖存者就製作、持有和散佈等主張提起訴訟的權利。Doe 的律師 Margaret E. Mabie 在新聞稿中表示，這三者都是犯罪行為，「而 xAI 三者皆犯」。

如果 Doe 勝訴，xAI 可能需要向所有能證明 Grok 根據其真實照片生成 CSAM 的受害者支付金錢賠償。Doe 還要求法院命令 xAI 銷毀其伺服器上可能儲存並用於訓練 Grok 模型的所有 Grok 生成 CSAM。此外，她希望 xAI 阻止 Grok 永遠生成 CSAM，她的訴狀建議這將需要阻止 Grok 產生任何性化輸出，包括 Musk 曾推廣的 NCII 和 NSFW「比基尼照片」。

Doe 的律師之一 Sarah London 在新聞稿中表示，Doe「近二十年來一直知道，她生命中最糟糕的事件影像正在網路上的掠食者之間流傳，而且隨時可能再次出現。xAI 必須為明知故犯地使用她所遭受的可怕虐待影像，以及此集體訴訟中其他倖存者的虐待影像來訓練其模型負責。」

X 未回應 Ars 的置評請求。