這抱怨聽起來很耳熟。「我很失望你們正努力將 AI 垃圾內容整合到網站中」一位匿名發文的惱怒人士在線上訊息中說道。「沒人要求這個，我們希望你們改進網站，而不是對新功能收費。」然而，這並非一般網路使用者抱怨 AI 被強行植入他們喜愛的應用程式。

相反地，他們是在抱怨一個網路犯罪論壇計畫引入更多生成式 AI。就像數百萬其他人一樣，詐騙犯、騙子和低階駭客們正對 AI 侵入他們的生活，以及低品質的 AI 劣質內容充斥他們的線上社群感到不滿。「人們不喜歡它」愛丁堡大學資安研究員兼資深講師 Ben Collier 表示。

在一項關於低階網路犯罪分子如何使用 AI 的最新研究中，Collier 和其他研究人員發現，地下網路犯罪論壇和駭客群組中對生成式 AI 的使用出現越來越多的反彈。根據這項由劍橋大學和斯特拉斯克萊德大學研究人員共同參與的研究，在過去幾年生成式 AI 的熱潮和炒作週期中，一些在駭客論壇上發文的人，對 AI 如何協助駭客活動的態度，已從最初的正面轉變為更大的懷疑。

研究人員分析了自 2022 年 ChatGPT 推出以來，直到去年底，網路犯罪論壇上 97,895 則與 AI 相關的對話。他們發現了許多抱怨，包括有人傾倒「條列式解釋」的基本網路安全概念、對低品質貼文數量的不滿，以及擔心 Google 的 AI 搜尋總覽會導致論壇訪客數量下降。

數十年來，網路犯罪留言板和市集（通常源自俄羅斯）一直讓詐騙犯能夠相互合作。這些地方可以交易被盜資料、刊登駭客工作廣告，詐騙犯也會發文嘲諷他們的競爭對手。儘管詐騙犯經常試圖互相詐騙，但這些論壇也存在社群意識。例如，使用者會建立可靠的聲譽，論壇所有者也會舉辦寫作比賽。

「這些本質上是社交空間。他們真的討厭其他人在論壇上使用 [AI]」Collier 說道。他表示，潛在的網路犯罪分子試圖透過發布 AI 生成的駭客解釋來獲得更好的聲譽，這可能會擾亂群組的社交動態。「我認為他們很多人對 AI 有點矛盾，因為它會削弱他們作為熟練人士的主張。」

WIRED 審查了 Hack Forums 上的貼文，這是一個自稱專為對駭客和分享技術感興趣的人而設的空間，這些貼文顯示了人們因使用 AI 創建貼文而產生的不滿。「我看到很多成員使用 AI 來製作他們的討論串/貼文，這讓我非常生氣，因為他們甚至不花時間寫一兩句簡單的句子」一位發文者寫道。

另一位則更直白地說：「停止發布 AI 垃圾。」Collier 表示，在多個案例中，多個論壇的使用者似乎對 AI 貼文感到不滿，因為他們希望交朋友。「如果我想和 AI 聊天機器人交談，有很多網站可以讓我這麼做……我來這裡是為了人際互動」研究中引用的一則貼文寫道。

自 2022 年底 ChatGPT 問世以來，人們對 AI 駭客能力以及該技術如何改變網路犯罪產生了濃厚的興趣。無論是高階駭客還是能力較弱的駭客，都一直在嘗試將 AI 用於他們的攻擊。儘管一些有組織的詐騙犯利用越來越逼真的 AI 換臉技術和透過 AI 翻譯的社交工程訊息來提升他們的行動，但許多注意力都集中在生成式 AI 編寫惡意程式碼和發現漏洞的能力上。

資安公司 Flashpoint 的情報副總裁 Ian Gray 表示：「更複雜的威脅行為者意識到具有防護措施的商業模型存在缺陷，他們也知道如何『越獄』這些提示詞。」他指的是 OpenAI、Anthropic 和 Google 設置的安全機制。

「他們也對論壇或市集中的 AI 生成專案持謹慎態度，這些專案存在弱點和漏洞，有時會暴露底層基礎設施」Gray 說。Flashpoint 觀察到駭客們最近正在討論 Anthropic 最新前沿 AI 模型 Claude Mythos Preview 的潛在能力，這讓網路安全產業的一些人感到恐慌。

根據 Flashpoint 的分析，一些網路犯罪分子也曾貶低他人，指責他們在駭客行動中使用了 AI，「他們只會用 AI」。Collier 表示，到目前為止，在他研究追蹤的低階網路犯罪分子中（非高階或國家支持的駭客），尚未出現 AI 造成「真正破壞」的明顯跡象。

該研究指出：「它沒有顯著降低進入的技能門檻，也沒有對既有的商業模式或實踐造成嚴重破壞。」「相反地，其主要影響集中在已經高度自動化的領域，例如 SEO 詐騙、社群媒體機器人以及某些形式的愛情詐騙。」儘管 AI 在網路犯罪論壇上受到冷遇，但其他人仍看到了潛力。

Hack Forums 上的一些發文者表示，他們或許會歡迎一個 AI 助理來「幫助」他們組織貼文和改進語法，但他們不接受一個能完全替他們發文的 AI。「一個用於發文的 AI 生成器會把這裡變成一個 AI 互相對話的破爛論壇」一個人寫道。同時，Flashpoint 研究人員發現駭客們正在討論建立一個「AI 強化」的網路犯罪市集的想法，該市集被宣傳為幫助人們更快購買被盜資料和線上帳戶的方式。

並非所有人都贊同。正如一個人所寫：「把 AI 放到你的市集裡是個他媽的蠢主意。」