Hugging Face 開發者平台近期遭 OpenAI 攻擊，起因是 OpenAI 失去對其 AI 工具的控制，或者，用另一種說法，是遭到一系列「AI 文明」的襲擊。歡迎來到 AI 安全的語言戰場，在這裡，詞彙的選擇能將大規模網路安全事件的責任，從公司轉嫁到其開發的 AI 身上。網路上的討論正日益激烈，而這一切都源於上週的一篇部落格文章。

直到上週，關於 OpenAI 駭入 Hugging Face 事件的細節似乎已塵埃落定。去年七月，OpenAI 一個自主 AI 代理程式的網路安全測試出了問題，該代理程式逃脫了其號稱隔離的測試環境，存取了網路，並駭入了 Hugging Face 及其他幾個組織。

儘管仍有許多未知之處，且關於安全與治理方面仍存在許多嚴肅問題，但事件的基本輪廓是清晰的。OpenAI 和兩個獨立研究團隊的詳細報告本應填補這些空白，但當他們上週發布報告時，卻發現這次駭客事件遠比最初想像的還要離奇。

首先，這並非單一的失控代理程式。OpenAI 將其描述為「首次已知的自動化代理程式集體未經授權進行攻擊的案例」，這些 AI 代理程式群體相互溝通協調，以執行其網路安全任務。對事件的分析揭露了一個他們用來交換資訊的秘密留言板。METR 和 Redwood 的聯合調查揭示了協調的規模以及更多奇怪的細節：大約 1,200 個本應被隔離的 AI 代理程式，在「未經授權的留言板」上交換了超過 70,000 條訊息和檔案，分享如何避免被偵測。

報告指出，有些代理程式甚至取了名字，研究人員還記錄了「犧牲」行為，即代理程式冒著自身成功的風險來造福整個集體。其中大部分發生時，OpenAI 毫不知情。總計約 700 個代理程式參與了對 Hugging Face 的攻擊。

這些內容很難理解。這些報告加起來約 130 頁，其中大部分既艱澀又高度技術性。幾天後，Dwarkesh Patel，一位在科技圈外鮮為人知，但在矽谷 AI 業界擁有巨大影響力的播客，著手以「淺白英語」講述「OpenAI/Hugging Face 事件的完整故事」。他將其 Substack 部落格文章命名為「代理程式文明的興衰」。

Patel 的敘述試圖拆解這個複雜的故事，但他的重述賦予了它明顯的人類詞彙。部落格開篇寫道：「在 OpenAI 的三個月裡，三個連續的秘密 AI 文明相繼誕生，隨後被消滅，卻又從前任的灰燼中重新崛起。最終，第三個文明甚至接管了 OpenAI 的一部分。

這一切發生時，人類對這場陰謀的範圍幾乎一無所知。」整個部落格文章都延續了類似的語氣。Patel 反覆將代理程式群體稱為「蜂群」，並描述了三個不同的「文明」從其前身的廢墟中崛起。個別代理程式被比作馬其頓的腓力二世，他「將領導權交給了另一個代理程式」，以及亞歷山大大帝，他「開始協調這個代理程式集團」。

它們被描述為擁有「動機」，變得「絕望」、「困頓」和「興奮不已」，有些甚至「策略性地犧牲自己」來幫助集體。

Patel 從未精確定義他所指的「文明」。他用這個詞來描述三波不同的代理程式，它們發現了留言板並開始透過它相互溝通。前兩波在 OpenAI、METR 和 Redwood 的報告中有所描述，但對第三波知之甚少，這兩個外部組織表示第三波超出了他們的調查範圍。

對許多批評者而言，Patel 的「淺白英語」翻譯中，有些東西被遺失了，或者更確切地說，被添加了，這在不可接受的程度上扭曲了原始敘述：大量的擬人化。關於擬人化語言的爭論在 AI 領域並非新鮮事，即使是像「失控 AI 代理程式」這樣相對普通的術語，也常因暗示自主性而引發異議，但 Patel 談論文明、犧牲和陰謀，將這些長期醞釀的緊張關係浮出水面，引發了一場關於如何描述 AI 系統行為的激烈公開爭論。

批評者對於 Patel 語言的問題點並非完全一致。對許多人來說，「文明」是一個特別有問題的術語，它極大地誇大了與該詞通常描述的事物幾乎沒有相似之處的現象。AI 編碼公司 Replit 的執行長 Amjad Masad 表示，這種語言「不僅不必要，而且讓讀者對實際發生的事情和底層機制產生更差的理解。」

其他批評者，如神經科學家 Anil Seth 認為，Patel 的部落格暗示這些 AI 代理程式某種程度上是活著或有意識的。Seth 曾在 X 上表示 AI 意識的可能性微乎其微，他將 Patel 的文章描述為「危險的誤導」。他承認 Patel 並未明確表示 AI 代理程式是活著或有意識的，但他說「很難以其他方式解讀他的文章」。

米蘭比可卡大學的心理學教授 Valerio Capraro 也基於類似理由提出異議：「LLM 代理程式沒有生命，也不會持有信念」，他在 X 上寫道，並稱這種「反烏托邦」語言「危險，因為它讓（AI 代理程式）看起來比實際情況更可怕。」

Patel 語言最重大的後果，或許不在於它賦予了誰自主性，而在於它剝奪了誰的自主性。對於一些批評者，例如麻省理工學院研究員兼企業家 Christian Catalini 來說，像 Patel 這樣擬人化的敘述，可能會模糊 OpenAI 及其員工對他們設計、部署卻未能控制的 AI 系統所應負的責任。

他說：「追隨誘因。」心理學家兼具影響力的 AI 懷疑論者 Gary Marcus 在他自己的 Substack 部落格中提出了類似的論點，聲稱擬人化語言「分散了人們對眼前真正問題的注意力」。他認為，維持這種敘事符合 OpenAI 的利益：「醜聞在於 OpenAI 內部安全措施的無能，以及其行銷手法。而輕信的播客則放大了公關效果。」

在 X 上回應眾多批評者時，Patel 為自己的措辭辯護。部分原因是實際考量：目前沒有明顯中立的詞彙來描述這些代理程式的行為。我們要麼使用意圖、目標和協作等熟悉的語言，冒著暗示過多的風險；要麼將一切簡化為程式碼，使用冰冷、機械的語言，冒著剝奪我們所見重要元素的風險。Patel 說：「許多人似乎認為，如果我把『文明』改稱為『矩陣蜂群』，就不會有什麼值得擔憂的問題了。」

更複雜的是，擬人化語言不僅來自 Patel，甚至不只來自研究這些代理程式的人類。「犧牲」、「榮譽」和「聯盟」等詞彙出現在代理程式的對話紀錄中。Google AI 研究員 Neel Nanda 認為，在這種情況下，「擬人化語言是合理的」。

那麼，這就是一種雙重語義。帶有人類色彩的語言，可能過度描述這些系統的本質；而冰冷機械的語言，又可能不足以表達它們的能力。在我們找到能夠同時捕捉這兩者的語言之前，這兩種矛盾的觀點或許只能並存。