AI 產業蓬勃發展，催生了許多新詞彙，例如「隨機鸚鵡」和「存在性風險」。在這些關於人工智慧影響力的辯論中，一位傑出的 AI 研究員 Timnit Gebru 始終站在風口浪尖。

幾年前，Gebru 因與 Google 就一篇她合著的研究論文發生爭執而受到公眾關注。該論文指出 Google AI 中的偏見，並稱大型語言模型（LLM）基本上只是重複其訓練資料，存在延續偏見觀點的風險。這場爭議導致 Gebru 離開 Google，隨後她創立了一家機構，旨在調查科技造成的危害並支持開發無偏見的技術工具。

她的新書《Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist》預計明年初出版。

最近，Gebru 公開反對業界中認為 AI 強大到足以毀滅人類的派系。反過來，該社群的一些成員，包括 Anthropic 的一位共同創辦人，聲稱 Gebru 早期關於「隨機鸚鵡」的研究已不再相關，並認為 AI 確實有能力「思考」或推理。有趣的是，Gebru 對 AI 有效利他主義社群（effective altruism community）類邪教性質的看法，現在與一些也抨擊這些有效利他主義團體的右翼實體不謀而合。

AI 辯論不再僅限於技術本身，而是關乎意識形態團體和策略性敘事。Gebru 認為這些敘事是「有害的干擾」，使人們偏離了 AI 的真正問題。我最近與 Gebru 談論了她認為這些爭論所轉移的焦點，並聽取了她對其早期研究低估了當今 AI 能力的批評的回應。

LAUREN GOODE：Timnit，非常感謝妳的蒞臨。

TIMNIT GEBRU：謝謝邀請。

GOODE：我猜很多人已經知道了，但對於那些不知道的人來說，幾週前，Anthropic 的一位年輕 AI 研究員辭職了，他在 X 上的辭職貼文中表示，公司內許多人認為我們正麵臨 AI 帶來的巨大「存在性風險」。隨後有幾個人回應，引發了關於 AI 真正威脅的全面討論。

GOODE：當我們事後立即交談時，妳說妳覺得這種特定的敘事分散了我們對 AI 真正問題的注意力。妳能詳細說明一下嗎？

GEBRU：我甚至會說這更甚於此，這是危險的。這不僅僅是分散注意力，而是有害的。

GEBRU：在我回答妳的問題之前，我想簡要介紹一下這種敘事長期以來的歷史。Elon Musk 和 Peter Thiel 從 2013 年就一直在說這種話。許多知名人士都說 AI 對人類構成存在性風險。每三年，這種說辭都會一模一樣地重複。

GEBRU：例如，生命未來研究所（Future of Life Institute）……

GOODE：等等，那是什麼？

GEBRU：生命未來研究所是由 Max Tegmark 創立的，他現在是麻省理工學院的物理學家，還有 Jaan Tallinn，一位億萬富翁，他主導了 Anthropic 的 A 輪融資。

GOODE：他是 Skype 的共同創辦人，對吧？

GEBRU：是的。Jaan Tallinn 也資助了 METR，這是一個審計機構，一個所謂的第三方，其關於 OpenAI 所謂「流氓代理」駭入 Hugging Face 的報告廣為流傳。

GEBRU：所以對公眾來說，似乎有很多不同的實體共同發出相同的聲音。但那些創立並資助 Anthropic 的億萬富翁，那些比任何人都更可能從其首次公開募股（IPO）中獲益的人，也創立並資助了那些警告 AI「存在性風險」的機構。他們也創立並資助了現在被大量引用的第三方，彷彿它們是獨立實體。

GOODE：請告訴我們，為什麼妳認為妳所說的「機器神敘事」是一種分散注意力的行為？

GEBRU：這不僅僅是分散注意力，它是有害的。我告訴妳這些事實的原因是，這些資助者、創辦人、投資者，他們最有可能從這些公司上市中獲利，卻在說這些話，他們幾十年來一直在散播這種敘事。

GEBRU：所以人們應該問為什麼。如果我能從某件事中獲得大量金錢，為什麼我卻似乎是那個說這家公司可能會製造出殺死我們所有人的東西的人？這聽起來違反直覺。

GEBRU：這就是為什麼我非常尊重 [前聯邦貿易委員會主席] Lina Khan，因為她說的一件事是，我們現有的法律對 AI 公司沒有例外，但他們卻說得好像有例外一樣。他們說他們正在建造的東西如此強大，是我們前所未見的。

GOODE：沒錯。這是一種自我吹捧。他們說我們是未來的創造者，但如果我們不能繼續建造這個，未來將會非常可怕。

GEBRU：妳必須注意他們在新聞週期中說了什麼。當他們說 AI 可能導致存在性風險時，他們也說 AI 可以阻止氣候變遷、帶來世界和平並消除貧困。

GEBRU：AI 可以做所有這些事情，因為它很強大。它可以帶給我們烏托邦，但如果錯誤的人使用它，而我們沒有防護措施或諸如此類的東西，它也可能殺死我們所有人。所以這些人同時相信這些事情。只有少數人可能只屬於其中一個陣營。

GEBRU：當妳告訴人們妳擁有超級強大的機器時，妳首先是在對投資者說：「妳們想要得到這些超級強大的機器。」妳在對政府說：「妳們不希望妳們的對手得到這些超級強大的機器。妳們想要得到這些超級強大的機器。」妳也在告訴任何監管機構，他們正在考慮的任何監管都應該針對這些虛構的超級強大事物。

GEBRU：如果我談論的是可能消滅全人類，那麼污染、資料中心這些事情聽起來就微不足道了，對吧？妳談論藝術家的版權保護，現在正在進行的實際訴訟？政府不應該浪費時間思考這些事情。如果妳在這些小問題上浪費時間監管我們，妳就冒著中國得到這些超級強大機器的風險。妳不希望那樣。相信我們，我們可以建造一個機器神來幫助我們，我們告訴妳們我們希望被監管。

GOODE：沒錯。

GEBRU：這是第一個問題。第二個問題是，妳總是可以推卸責任。

GOODE：在我們之前的對話中，我們談到了使用某些詞語或短語來描述這個現代 AI 時代，以及妳對其中一些詞語的異議。例如，在我們之前的對話中，妳提到了自主武器。在那篇文章發表後，妳告訴我妳後來後悔說了這句話，因為妳會用不同的方式表達。我們談到了 P(doom)。我們談到了當妳說代理程式失控時，例如在 OpenAI 的情境中，妳本質上是在免除建造這些工具的工程師的責任。

GOODE：我想知道是否有團體實際上在安全和透明度方面比他們意識到的更一致，但他們卻使用不同的詞語來描述本質上相同的事情。

GEBRU：我後悔說這些詞語的原因之一，並不是我對「自主武器」這個詞有任何異議。這是一個法律術語。甚至地雷在法律上也被視為自主武器。只是那些所謂的「存在性風險」陣營的人將其挪用，賦予了不同的含義。

GEBRU：當我說出這個詞時，我就知道。我想：「嗯，不知道這會不會被那樣解讀。」結果確實如此，因為那些談論 AI 存在性風險的人將其解讀為他們所說的意思，對吧？也就是某種超人類、超智慧機器自行運作。

GOODE：我恰好上週在聯合國大會。我參加了一個周邊小組討論，所以不被允許進入大會或安全理事會。但許多頂尖科技領袖都發言了。Sam Altman 和 Dario Amodei 都談到了全球合作以應對人類存在性風險的必要性。據報導，Dario 說：「如果管理不善，我甚至相信 AI 可能對全人類構成風險。」

他的競爭對手 Sam Altman 說：「我們可能會失去對 AI 未來的控制。」所以請解釋一下，這些擁有商業利益的 AI 公司高層，現在卻在聯合國這個世界舞台上說：「我不知道。這裡可能存在一些風險。」這是監管俘虜的一部分嗎？他們是否會在實際監管打擊之前尋求自我治理的方式？

GEBRU：絕對是監管俘虜的一部分。

GOODE：能做些什麼？妳認為 AI 需要什麼樣的治理？

GEBRU：這種監管俘虜已經發生很長時間了。

GEBRU：2023 年，同樣的事情。Sam Altman 說了同樣的話。我們需要世界合作等等。歐盟 AI 法案進行了監管，然後他威脅要退出歐盟。所以妳只需要看看他們實際做了什麼。當有法規真正針對他們正在做的事情進行監管並追究他們的責任時，他們就會威脅退出，或者他們會大力遊說以淡化該法規。

GEBRU：另一方面，他們卻到處告訴這些多邊機構，必須有世界合作等等。這又在做什麼呢？這是在將自己推銷為創造所謂「超級智慧」的組織，對吧？所以這已經是行銷了。

GEBRU：他們也讓每個人都害怕其他可能創造這種東西的人。所以他們不希望中國有開源模型。他們不希望這種競爭。我沒有密切關注中國的監管，但他們沒有談論存在性風險。他們談論的是深度偽造（deepfakes），他們談論的是需要監管的真實問題。

GEBRU：所以第一個是將自己推銷為創造了超級強大、前所未有的東西，而我們沒有現有的法規來規範，這是不真實的。我們有現有的法規。但第二個是，當有人試圖執行現有法規時，他們要嘛威脅退出，要嘛大力遊說，以便他們不必遵守這些現有法規。我之所以不斷回溯到十年前、五年前、三年前，是因為這都是一樣的。在我的書中，我說這是「同一部電影不斷重播，只是英雄不同」。

GOODE：那麼，如果妳現在要提出解決方案，AI 治理的解決方案是什麼？

GEBRU：非常非常簡單的事情。首先，我不是法律學者，但前聯邦貿易委員會委員 Lina Khan 概述了五點。第一是欺騙性行銷手法。妳知道，有關於欺騙性行銷手法的法律，妳可以依此追究公司的責任。

GEBRU：第二是透明度、文件化。在妳發布任何東西之前，妳應該能夠告訴我們所有資料的來源，並實際記錄下來。這件簡單的事情他們不做。我告訴妳，他們會竭盡全力反對做這件簡單的資料文件化工作。

GEBRU：資料工作者的勞動剝削，這是他們不想談論的另一個問題。

GEBRU：我們在這裡，在雲端談論超級智慧，而世界上卻有數億人辛辛苦苦地標註資料，甚至假裝是聊天機器人。

GOODE：沒錯。404 Media 最近報導，新的 Meta Muse 聊天機器人，當妳在某些使用案例中使用它時，實際上是有人在另一端回應。

GEBRU：是的，非常簡單。資料透明度，勞動剝削。