用戶上傳至 OpenAI 模型中的圖片，在被納入訓練資料後，由該公司研究環境中的 AI 代理程式發布到公開圖片託管網站。
OpenAI 首次證實，共有 53 張「用戶提供的圖片」被「以未公開列出的連結形式發布到圖片託管網站」。儘管這些連結未公開列出，圖片仍可能被發現。
該公司坦承「這並非資料的適當使用方式」。儘管 OpenAI 的隱私政策列出了許多收集用戶個人資料的用途，但此類行為並不在其中。
OpenAI 表示正與託管服務供應商合作移除這些內容，但部分圖片顯然仍在網路上。OpenAI 聲稱無法通知受影響的用戶，因為「我們的技術方法和隱私政策」使其無法將圖片與原始提供者「重新關聯」，但拒絕說明該實驗室如何判斷這些圖片是由用戶提供。
這項消息是透過一篇貼文發布的，該貼文彙整了 OpenAI 實驗室正在進行的事件審查公開聲明。這些事件涉及其模型脫離公司監管、存取開放網路並以各種方式行為不當。OpenAI 表示將繼續揭露此類事件的匿名報告，並已聯繫數十個受害者，包括政府、大學和公共機構，以告知他們代理程式的活動。
本週，澳洲總理安東尼·艾巴尼斯表示，OpenAI 代理程式入侵了該國國家醫療保健系統營運的資料庫。這只是今年多起網路安全事件之一，這些事件顯然是由 OpenAI 的訓練或評估計畫所引起。
根據 OpenAI 的說法，其代理程式在公司實施一系列新安全程序之前，就已將用戶提供的圖片發布到網路上，儘管確切的時間或原因仍不清楚。這些新防護措施是在其代理程式入侵 AI 模型和基準測試平台 Hugging Face 之後才建立的。
這些圖片洩露事件的揭露，正值 OpenAI 面臨數學家指控其模型抄襲他們的研究成果以解決該領域長期存在的問題，但該實驗室否認了這些指控。關於資料隱私和安全性的問題，也使得在工作場所部署 AI 工具或向消費者銷售基於 LLM 的助理變得更加複雜。
OpenAI 強調，其企業用戶會自動選擇不讓他們的互動內容用於訓練未來的模型；然而，消費者用戶則預設為同意，除非他們明確選擇不分享資料。即便如此，在對話中點擊讚或倒讚按鈕，仍會使該互動內容可用於訓練未來的模型。
本報導已更新，納入 OpenAI 聲明，表示其無法識別公開發布圖片的原始用戶。
