跳到主要內容
maxstudioNews
研究MIT News (AI)約 4 分鐘

麻省理工學院與康乃爾大學研究:提升 AI 文本偵測器對抗不斷變化的能力

AI 文本偵測工具容易被偽裝的 AI 生成文本或寫作習慣變化所愚弄。麻省理工學院和康乃爾大學的研究人員開發了一種名為「測試時適應」(test-time adaptation, TTA)的訓練技術。這項技術能顯著提高偵測器的準確性和抗欺騙能力,即使人類和 AI 寫作不斷變化。

麻省理工學院與康乃爾大學研究:提升 AI 文本偵測器對抗不斷變化的能力
圖片來源:MIT News (AI)

一位老師如果懷疑學生的報告可能是由大型語言模型(LLM)撰寫,可以使用 AI 生成文本偵測工具來確認。然而,老師在完全信任這些偵測器之前,可能需要三思。麻省理工學院和康乃爾大學的研究人員指出,這些本身就是 AI 模型偵測工具,可能會被偽裝成人類撰寫的 AI 生成文本所愚弄。此外,由於寫作習慣隨時間自然變化或新 LLM 的出現,偵測器也可能無法識別 AI 文本。

在一篇新論文中,研究人員展示了一種特殊的訓練技術,如何讓 AI 偵測器在人類和 AI 寫作不斷變化的情況下,仍能更準確且更具抗欺騙能力。

他們採用了一種稱為「測試時適應」(test-time adaptation, TTA)的方法,該方法允許已部署的偵測模型透過即時調整其內部運作,從新的、未標記的資料中學習。透過這種方式,模型無需從頭開始重新訓練,即可適應未見過的輸入。

在實驗中,一個商業偵測器只能識別約 27% 經過偽裝的 AI 生成文本,而他們的新方法則達到了 93% 的準確度。

這種方法可以幫助教育工作者、編輯、出版商和招聘經理,標記出人們試圖冒充人類撰寫的 LLM 生成文本。它還能被網路安全專家用於預防電子郵件網路釣魚詐騙或識別搜尋引擎最佳化(SEO)詐欺。

研究合著者 Manish Raghavan 表示:「在許多高風險情境中,人們非常關心作者的身份,從科學出版到短篇小說比賽都是如此。我們已經證明,即使 AI 用戶持續進行對抗性行為,測試時適應也能讓您的 AI 偵測器變得更加穩健。」他是 MIT 史隆管理學院的 Drew Houston (2005) 職涯發展教授,同時在 MIT Schwarzman 計算學院的電機工程與電腦科學系(EECS)擔任共同職位,也是資訊與決策系統實驗室(LIDS)的首席研究員。

共同參與這篇論文的還有主要作者、康乃爾科技大學研究生 Kevin Ren,以及資深作者、康乃爾科技大學助理教授 Nikhil Garg。這項研究將在神經資訊處理系統大會上發表。

能生成類人文本的 LLM 普及,催生了大量商業 AI 偵測工具,幫助人們識別一段文字是否由人類撰寫。然而,當這些偵測工具評估的文本與其訓練時所識別的文本顯著不同時,它們就會失效。這種現象稱為「分佈偏移」(distribution shift)。

偵測器開發者通常透過從網路上收集已知為 AI 或人類生成的文本來訓練模型,使其學會區分兩者。然而,一旦偵測器發布,人們可能會改變他們的寫作方式,或者使用 AI 生成文本的方式。例如,2030 年的人類可能會使用 2010 年不常見的新類比來撰寫不同主題的文章。用 2010 年資料訓練的偵測器,可能不熟悉這種新的寫作風格,並錯誤地將人類撰寫的文本標記為 AI 生成。

偵測模型的發布也讓開發者與試圖繞過它的用戶之間,產生了一場貓捉老鼠的遊戲。這些人可以將 AI 生成的文本,透過自動化的「人類化」軟體工具進行修改,使其在偵測器看來像是人類撰寫的。

Ren 表示:「公司發布模型後,會出現許多『人類化工具』試圖擊敗它,於是公司會嘗試將這些人類化文本納入訓練中,讓偵測器能夠識別,如此反覆。這個循環可以永遠持續下去。」

研究人員探討了測試時適應(TTA)是否能讓 AI 偵測器對這些分佈偏移具有韌性。

在 TTA 中,研究人員並非在部署期間凍結模型使其無法改變,而是允許模型在發布後自行適應傳入的資料。對於 AI 文本偵測器而言,這些資料是用戶上傳的新文本。

這些資料是未標記的,因此偵測器開發者不知道哪些資料是人類撰寫的,哪些是 AI 模型生成的。然而,這些新資料代表了當代人類和 AI 的寫作,這正是開發者希望模型能夠預測的內容。

有了足夠的範例,偵測器就能學習識別模式,以判斷哪些資料是 AI 生成的,哪些是人類生成的。

研究人員透過建立包含一定數量 AI 生成和人類生成文本的資料集來研究 TTA,但他們不向模型提供這些標籤。他們還使用 LLM 生成了一些類似於 AI 撰寫的文本範例,專門用於規避偵測器。

然後,他們執行了 TTA 訓練過程,並在真實資料上測試了模型。

在旨在模仿人類語言隨時間自然變化的實驗中,使用 TTA 的偵測器準確度達到 85%,而傳統方法僅達到 73%。

至於旨在阻撓偵測工具的寫作,現有方法只能識別約 27%,而 TTA 則使模型能夠捕捉超過 93% 的偽裝文本。

Ren 表示:「TTA 有潛力真正幫助已部署的 AI 偵測模型,使其能夠主動應對對抗性 AI 用戶這種反覆的『遊戲』行為。」

他補充說,適應人類寫作行為的變化是一個更困難的 TTA 問題,因為這些變化發生得更慢,且方式更為微妙。

研究人員警告,隨著未來的 LLM 產生更自然的語言,並且越來越難找到可用於訓練的真實人類文本,TTA 可能不總是有效的解決方案。

Raghavan 說:「這是否是一個可解決的問題,目前還不完全清楚。在一個無法區分人類生成內容和 AI 生成內容的世界中,你該如何看待科學、寫作和藝術,這其中存在一些重大的開放性問題。」

未來,研究人員希望探索 TTA 可能有用的類似策略領域,並建立更好的基準測試工具,以幫助工程師以動態方式改進這些 AI 偵測模型。此專案使用了 Pangram 提供的 API 點數來使用他們的 AI 文本偵測器。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 MIT News (AI) 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。