OpenAI 針對歐盟 AI 法案推出文字浮水印策略

內容溯源技術能幫助人們了解內容的來源、如何創建或編輯，以及是否包含與我們模型相關的訊號。我們已經公開了用於識別由我們模型生成的圖像和音訊的工具。今天，我們將分享我們針對歐盟 AI 法案的文字浮水印方法，以及它如何融入我們更廣泛的工作中。

歐盟 AI 法案要求生成式 AI 供應商以機器可讀的方式，使生成的文字可被識別。文字浮水印和偵測技術仍處於早期階段，存在顯著限制，且關於其益處和負責任使用的觀點仍在發展中。我們的分階段方法既反映了歐盟 AI 法案的要求，也考量了該技術的限制，並強調透明地說明文字浮水印能和不能告訴人們什麼。

從今天起，全球的 API 客戶將能夠選擇啟用特定模型的文字浮水印功能。文字浮水印在 API 中將預設為關閉。在未來幾週內，我們將在歐盟地區的 ChatGPT 和 Codex 文字輸出中加入隱形浮水印。

我們正在開放文字浮水印偵測器的申請。初期，存取權將僅限於經核准的研究人員和專家組織，他們可以幫助我們評估和改進這項技術。上述內容僅適用於文字溯源，我們用於音訊和圖像的驗證工具，包括我們的 openai.com/verify 網站工具和內容溯源 API，將繼續公開提供給希望了解圖像或音訊檔案是否由我們的系統生成。

我們的文字浮水印技術 textGrain，會在模型的詞彙選擇中加入一個隱形的統計訊號。我們的偵測器會尋找該訊號，以評估一段文字是否包含 OpenAI 的浮水印。關於 textGrain 如何運作的更多細節，可以在我們的技術報告中找到，該報告將在未來幾週內更新更多細節。我們也計劃將這項技術開源，以便其他人可以在此基礎上進行開發。

在我們的評估中，textGrain 的表現與我們測試過的其他方法（包括用於文字的 SynthID）相當或更優。即便如此，在理想條件下的強勁表現並不能保證在日常使用中偵測的可靠性。偵測器可能會產生兩種錯誤：報告不存在的浮水印（誤報），或遺漏存在的浮水印（漏報）。我們的以下評估說明了一些挑戰。

較短或受限的文字更難偵測。在目標誤報率為 1% 的情況下，我們的偵測器在大約 80% 的 200 詞段落中識別出浮水印，而在 400 詞段落中則約為 95%，例如心理學內容。對於數學等詞彙選擇靈活性較低的內容，偵測率則顯著降低。編輯可能會削弱浮水印。在一項 400 詞段落的評估中，用同義詞替換 10% 的詞彙，偵測率從約 92% 降至 66%。替換 25% 的詞彙則降至 17%。

這些限制促使我們決定初期僅向經核准的研究人員和專家組織提供偵測器存取權，他們可以幫助我們評估可靠性和負責任的使用。此圖表顯示了在目標誤報率為 1% 的情況下，ELI5 資料集中數學和心理學問題的浮水印回應結果。偵測率隨文字長度增加而提高，但對於詞彙選擇靈活性較低的內容（如數學），整體偵測率顯著較低。

編輯會大幅削弱浮水印訊號。此圖表顯示替換段落中 10% 或 25% 的詞彙如何影響偵測。結果基於 ELI5 中問題的浮水印英文回應。在我們用於評估 Astra（我們最新的前沿模型）的基準測試中，我們沒有看到有無浮水印對性能造成顯著差異。

文字浮水印並不能告訴你所有資訊。文字浮水印僅提供關於我們的系統在一段文字中扮演角色的有限訊號。了解偵測結果能和不能得出什麼結論非常重要。浮水印不能衡量人類的貢獻。它只能表明 OpenAI 系統生成或處理了部分文字，但不能說明其中包含了多少人類判斷、編輯或創造力。

浮水印不能確立所有權或責任。它不能決定文字的所有者、其使用是否合法、是否需要披露，或誰應為其負責。浮水印不能識別使用者。它不會將個人、組織、帳戶、提示詞或對話與文字關聯起來。浮水印不能驗證準確性。它不能告訴你一段文字是否真實、誤導、有害或在正確的語境中呈現。

未偵測到浮水印並不能證明是人類創作。使用 OpenAI 工具生成的文字可能因太短、經過編輯或翻譯而無法可靠偵測。它也可能來自不受支援的模型、早於浮水印技術，或由其他公司的工具生成。

我們的下一步是：在歐盟推出文字浮水印。在未來幾週內，我們將在歐盟地區向所有方案的符合資格的 ChatGPT 和 Codex 使用者推出文字浮水印。我們在發布時不會將文字浮水印設為全球預設。這種區域性方法讓我們有空間從實際使用和回饋中學習。

為 API 客戶啟用選擇性浮水印。從今天起，全球的 API 客戶將能夠選擇啟用特定模型的浮水印文字輸出。這讓客戶可以決定浮水印如何符合他們的透明度義務以及他們為使用者提供的體驗。我們也正在與雲端合作夥伴合作，以便在未來幾週內透過他們的服務提供 OpenAI 模型輸出的浮水印功能。

向研究人員和專家組織提供偵測器存取權。經核准的研究人員和專家組織從今天起可以申請。根據行為準則，初期將根據個案批准存取權，以支持文字溯源的評估和改進。該工具將報告是否偵測到 OpenAI 浮水印，而不會識別使用者或揭露其提示詞或對話。考慮到遺漏浮水印和誤報的風險，我們在發布時不會將其公開。我們預計將隨著技術、標準和證據的演變，重新審視這種方法的每個部分。

我們更廣泛的內容溯源方法是：沒有單一的溯源技術足以獨立運作，因此我們採用分層方法，結合開放標準、持久性浮水印和驗證工具。我們為支援的圖像輸出添加內容憑證，符合 C2PA 標準，在支援的圖像和音訊中嵌入隱形 SynthID 浮水印，並透過 openai.com/verify 和我們的內容溯源 API 提供圖像和音訊驗證。

這些技術相互補充：內容憑證可以記錄檔案的來源和歷史，而隱形浮水印可以在中繼資料被移除時保留訊號。正如我們在選舉安全措施工作中描述的，溯源可以幫助人們和平台評估潛在的誤導性 AI 生成內容，包括深度偽造。我們將這些訊號與政策、濫用偵測、報告、調查和執法相結合，並與研究人員、標準機構、平台和公民社會合作，使溯源在更廣泛的生態系統中發揮作用。

將溯源擴展到文字需要考慮其易於重寫、翻譯或編輯的特性。正如我們在六月討論的，我們的方法必須反映當前技術的實際限制。我們將繼續改進偵測，研究浮水印如何承受編輯和翻譯，並探索更有意義地區分 AI 輔助和 AI 創作的方法。我們將隨著證據、標準和監管要求的演變調整我們的方法，並在我們認為結果可以負責任地解釋時擴大偵測器的存取權。欲了解更多資訊，請訪問我們的幫助中心文章。