Anthropic 最近決定為 Claude 的輸出內容加上浮水印,將不可見的程式碼嵌入聊天機器人生成的文字中,以標示其為 AI 生成。
Anthropic 推行這項新政策是為了符合歐盟 AI 法案的透明度規範,該法案現在要求科技公司必須以電腦系統可識別的方式,標示所有由 AI 生成或編輯的內容。然而,儘管歐洲監管機構可能樂見其成,部分 AI 用戶卻顯然不滿。
Anthropic 最近為其 AI 聊天機器人 Claude 的輸出內容新增了隱形浮水印,以符合歐盟 AI 法案的透明度要求。此舉卻引發部分用戶強烈不滿,他們擔心在工作或學業中使用 Claude 的痕跡會因此被揭露。儘管有用戶對此表達憤怒,但也有人認為這項功能有助於識別 AI 生成內容,並指出不當使用 AI 本身就存在倫理問題。

Anthropic 最近決定為 Claude 的輸出內容加上浮水印,將不可見的程式碼嵌入聊天機器人生成的文字中,以標示其為 AI 生成。
Anthropic 推行這項新政策是為了符合歐盟 AI 法案的透明度規範,該法案現在要求科技公司必須以電腦系統可識別的方式,標示所有由 AI 生成或編輯的內容。然而,儘管歐洲監管機構可能樂見其成,部分 AI 用戶卻顯然不滿。
只要看看 Reddit 就能找到不滿情緒正在醞釀的證據,儘管網站上也有其他發文者不認同。我看到一篇較為誇張的貼文來自一位名為 visionode 的用戶,值得注意的是,他的帳號才創立三週。根據 visionode 的說法,新的浮水印系統是一場嚴酷的陰謀,旨在迫害全球無辜的聊天機器人用戶。
visionode 的基本論點似乎是,儘管精明的 Claude 用戶可能可以透過改寫或使用其他 AI 服務清理輸出內容來隱藏其 AI 使用痕跡,但普通用戶將會被抓包。
他寫道:「誰會被抓到?就是你。那個用 Claude 重新組織一段文字的學生。那個請 AI 總結一份兩百頁逐字稿的記者。那個遇到創作瓶頸而尋求同義詞的作家。這些人從這個過程中走出來,額頭上都帶著數位刺青。」
我無意削弱 visionode 的憤怒,但這些並不是最好的例子。一位記者請 AI 總結一份兩百頁的逐字稿,並不會因為摘要附帶浮水印而感到困擾,除非他們將摘要一字不差地複製貼上到自己的文章中,這顯然是不道德的,也不應該發生。
同樣地,學生在請 Claude「重新組織一段文字」後,將其輸出內容複製貼上到論文中,也是不道德的行為。
其他 Reddit 用戶也並不支持這位發文者的憤怒。
一位用戶只是評論道:「看看這傢伙。」
另一位則要求發文者「深呼吸」。
visionode 並不是唯一抱怨的人。另一位不滿的用戶稱這些浮水印「不道德」且「令人作嘔」,並主張他們在使用 Claude 時已經完成了大部分工作。在他們看來,聊天機器人只是一個「工具」,協助他們完成了艱鉅的勞動。
這位用戶問道:「我提供了指令、上下文、決策和無數次的精修,Claude 只是工具。如果 Claude 開始為它生成的程式碼或其他任何東西加上浮水印,它到底是在聲稱什麼功勞?」
同樣地,其他用戶也對這位批評者群起而攻之。
一位用戶反駁道:「它並沒有在聲稱功勞。」「這是為了能夠檢測 AI 生成的輸出,因為 AI 生成的輸出在各種情況下都可能造成風險。」
另一位則挖苦道:「老兄連抱怨 Claude 都還要用 Claude 來寫。」
一些批評者避開了受害者敘事,提出了對 Anthropic 新政策更為細緻的論點。
例如,一位發文者抱怨,對一個本身就是透過吸取他人作品而生成的編輯產品加上浮水印,存在普遍的偽善。「我認為這是一個非常險惡的方向」該用戶說。「我不用 Claude 寫任何東西,但有一個 AI 會為你的作品加上浮水印,這在許多前沿模型如何獲得其訓練數據的背景下,是令人恐懼的諷刺。」
然而,總體而言,用戶傾向於支持浮水印系統,認為這是追蹤演算法生成內容的明智方式。一位用戶在另一個討論串中說:「這不是一個好主意的論點根本不存在。你不想這樣做的唯一原因就是想欺騙別人。」
覺得值得一看?分享給朋友。
以上為 AI 自動翻譯導讀。原文版權歸 TechCrunch AI 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。
43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。