Anthropic 確認 Claude 模型將在全球範圍內嵌入隱形、機器可讀的 AI 生成內容浮水印後,開發者 Guillaume Meyer 在四小時內就發布了規避程式碼。他的程式碼在 GitHub 上迅速爆紅,在 X 上被收藏超過兩萬次,並吸引了上百名貢獻者,許多人也將此技術整合到自己的專案中。

「Anthropic 正在其 Claude 文本中嵌入浮水印……這個問題僅僅一天後就幾乎成為歷史了。」一位 AI 專家寫道,並附上一張 Meyer 掙脫鎖鏈、站在揉皺的歐盟和 Anthropic 旗幟上的圖片。

Meyer 和其他人在 Anthropic 上週宣布 Claude 將採用浮水印以符合歐盟 AI 法案後,便開始研究浮水印的運作方式。Meyer 告訴 WIRED,有些人試圖規避浮水印是因為他們不同意所有 AI 生成內容都應被標示的觀點,而包括他自己在內的一些人則表示他們只是享受技術挑戰。他還提到,自由撰稿人和社群媒體創作者也曾聯繫他尋求使用該程式碼的協助。

本月初生效的新規定要求 Anthropic 和 OpenAI 等模型供應商必須標示合成音訊、圖像、影片或文字,以便機器能偵測出這些內容是由 AI 生成,否則將面臨高達年營業額 3% 的罰款。雖然規定禁止供應商推銷規避工具,但對獨立工具並無法律限制。

Meyer 表示:「我並不反對透明度,也完全支持內容歸屬。我只是認為浮水印本身是一個非常糟糕的解決方案,因為它有重大的缺點和風險。」他擔心誤判的風險,以及浮水印可能無法區分 AI 使用程度的輕重,特別是他作為法語母語者,經常使用 Claude 和 Grammarly 等 AI 工具來編輯寫作。

他認為,當 Anthropic 自己都承認浮水印只能產生文本是否曾被 Claude 觸及的「機率」時,將浮水印作為證據可能會導致雇主不公平地拒絕求職者,或過度指控研究人員使用人工智慧,僅僅因為偵測器發出警示。

Anthropic 的浮水印技術是透過在 Claude 選擇的詞彙和短語中留下人類讀者無法察覺、但機器能偵測到的模式來實現隱形標記。由於這會影響 Claude 的輸出,一些用戶擔心這會降低 Claude 回應的品質,儘管 Anthropic 堅稱不會如此。

這項名為 SynthID 的技術由 Google 開發,自 2023 年起便用於其 AI 生成內容的浮水印。電腦科學家 Scott Aaronson 在 OpenAI 工作時曾提出類似方法,但他表示該公司從未部署,因為擔心浮水印會讓客戶對其產品卻步。

Meyer 的移除方法是使用一個未嵌入浮水印的大型語言模型來生成多個改寫版本,替換同義詞並輕微重組內容。當然,這依賴於使用其他未插入浮水印的大型語言模型,這可能不是一個穩妥的選擇,因為包括 OpenAI、Microsoft 和 Meta 在內的 190 個組織都已簽署了歐盟的透明度行為準則。

這些實驗室中將有多少會實施浮水印仍有待觀察,所有從八月起發布的新模型都必須包含浮水印,現有模型則必須在十二月前整合。

矽谷主權 AI 新創公司 Haimaker 的技術長兼共同創辦人 Wayne Pan 表示,儘管在 Anthropic 發布其浮水印偵測軟體之前,無法確定這個工具是否有效,但理解 Claude 浮水印背後的 SynthID 文本基本方法,讓他們相當確信該方法是有效的。

他將 Meyer 的開源工具整合到自己的平台中,因為他同樣不喜歡 Claude 對內容進行浮水印的做法,即使內容只是輕微編輯過,也不同意浮水印對用戶隱形。

其他程式設計師也開發了自己的移除工具:軟體工程師 Erik Hughes 花了 15 分鐘用 Claude 製作了一個工具,可以移除隱形和相似字元、重新排列段落內的句子,並將幾個詞替換為同義詞。牛津大學訪問學者 Leon Chlon 表示,浮水印可以透過壓縮 Claude 的回應、將其翻譯成阿拉伯語等語義與英語截然不同的方言,然後再翻譯回來的方式來移除。

Anthropic 自己也承認,經過大量編輯、改寫或翻譯的內容可能不會帶有浮水印。

Anthropic 發言人在給 WIRED 的聲明中表示:「我們正在為 Claude 的輸出添加標記,以符合歐盟 AI 法案,其他實驗室也正在採取類似措施。識別 AI 生成文本很困難,這為人們提供了更好的識別工具。來自受支援的 Claude 模型(包括 Claude Code 的輸出)的文本將帶有隱形浮水印,它不會改變 Claude 回應的意義、品質或可讀性。我們還計劃推出一個文本偵測 API,以便用戶可以自己做更多這方面的工作。」

Anthropic 表示,他們正在研究如何實施文本浮水印偵測,並計劃很快發布一個工具,屆時開發者將最終能夠看到他們的方法是否萬無一失。他們也將繼續努力改進浮水印系統。Pan 說:「我認為他們是想表明他們是真誠地在做這件事,但我認為你永遠不可能有一個能抵擋一切的浮水印。」