跳到主要內容
maxstudioNews
產品The Verge AI約 2 分鐘

Anthropic 揭露 Claude 隱形文字浮水印運作原理

為遵守歐盟 AI 法規,Anthropic 將為其大型語言模型 Claude 生成的文字內容導入隱形浮水印。這項技術採用 Google DeepMind 開發的開源 SynthID-Text 方法,透過詞彙選擇的機率模式來嵌入可偵測的標記。Anthropic 強調,此功能不會影響 Claude 的輸出品質或增加用戶成本。

Anthropic 揭露 Claude 隱形文字浮水印運作原理
圖片來源:The Verge AI

Anthropic 已闡明其計畫如何為 Claude 生成的文字應用隱形浮水印,以符合歐洲的 AI 透明度規範。Anthropic 週五宣布,Claude 的文字標記系統是「SynthID-Text 方法的一個版本」,這是一項由 Google DeepMind 開發的開源浮水印技術,它利用詞彙機率來創建可偵測的模式。

這項浮水印功能,連同對 Claude 處理圖片的 C2PA 支援,旨在履行 Anthropic 在歐盟 AI 法案下的義務。該法案要求合成音訊、圖像、影片和文字必須包含機器可讀的標記,以便內容能被偵測為人工生成或操縱。Anthropic 表示,文字浮水印不會讓用戶使用 Claude 的成本更高,也不會「對 Claude 輸出的品質或內容產生任何實際影響」。

以下是 Anthropic 對其運作方式的解釋:以句子「今天天氣很冷,而且…」為例。下一個詞不太可能是「甜的」,但很有可能是「陰天」或「灰色」。在大多數情況下,模型最終選擇這兩個詞中的哪一個對讀者來說並不重要,因為句子的意思大致相同。在這種情況下,選擇是由一個隨機數決定的。

浮水印技術利用這些「低風險選擇」(在一段生成文字中會出現多次)在 Claude 的回應中留下一個模式。這個模式對讀者來說是不可偵測的,但對於擁有編碼金鑰的人來說卻是可偵測的。當使用浮水印時,選擇仍然是隨機進行的,但隨機性的來源不同。它不再使用任意的隨機數生成器來選擇下一個詞,而是利用金鑰和前面幾個詞來決定模型應該選擇哪個詞。

正如 Anthropic 所指出的,歐盟的 AI 透明度要求也影響其他主要的 AI 開發商,因此 Claude 不會是唯一一個導入文字浮水印的模型。Google 的 Gemini 聊天機器人自 2024 年起就已支援 SynthID-Text 解決方案,而 OpenAI 雖然尚未在其 AI 法案合規路線圖中詳細說明 ChatGPT 的任何文字浮水印計畫,但它也將受到該法律要求的約束。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 The Verge AI 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。