在即將出版的新書《人工國家的興衰》(The Rise and Fall of the Artificial State)中,Jill Lepore 警告科技公司正日益取代民主政府的職能。她表示,這種轉變標誌著「以演算法、企業和機器統治的形式,回歸暴政與神秘化」。
在最新一集的 TechCrunch Equity 播客中,我與 Lepore 進行了對談。她是一位哈佛歷史學家和《紐約客》特約撰稿人,最近因其關於美國憲法的歷史著作而榮獲普立茲獎。我們討論了她所描述的「我們應該生活在人工國家或機器政府之下」這個觀念的演變。
Lepore 堅稱:「我並非反科技主義者。」她解釋說:「我的不滿在於,私人企業日益承擔了國家的職能。」
儘管 Lepore 的書探討了數世紀以來的技術官僚哲學,但她認為,許多矽谷「魅力十足或不那麼魅力十足的領導者」,尤其是 Elon Musk,似乎正在引導一個從被誤讀的通俗科幻小說和漫畫書中汲取靈感的未來。
她說:「但 Musk 有趣的地方在於,他喜歡的東西實際上完全推翻並違背了他所有的政治信仰。」
我們的對話還涵蓋了 Apple 著名的「1984」Macintosh 廣告、為何稱 Twitter 為數位市政廳是「瘋狂的」,以及當前資料中心的反彈。請繼續閱讀,了解經過編輯和精簡的重點內容。
你可能已經解釋過很多次了,但能否再解釋一下你所說的「人工國家」是什麼意思?
我所說的人工國家,是指一種正在取代美國乃至全球自由民主民族國家的國家形式。它既是一個真實的存在、一種建構,同時也是一個觀念。
因此,在這本《人工國家的興衰》書中,我追溯了「我們應該生活在人工國家或機器政府之下」這個觀念的興起。我也追溯了這種必然失敗的觀念,即人工國家無法存活,我透過科幻小說來追溯這個想法。
你曾說,人工國家的崛起標誌著數百年民主和平等權利的終結,這是「以演算法、企業和機器統治的形式,回歸暴政與神秘化」。你能否多談談為何你以如此嚴峻的措辭來看待它?
是的,我對此確實抱持相當負面的看法,我認為將人工國家與科技本身或科技模式區分開來很重要。我不是反科技主義者,我的丈夫就是一位電腦科學家。我對我們目前正經歷的各種知識革命感到非常興奮。
這不是我的不滿所在,對吧?我的不滿在於,私人企業日益承擔了國家的職能。沒有人同意這樣做。這是一種漸進的、很大程度上是偶然的轉變,改變了世界上許多民族國家的運作方式,它首先發生在美國。
我認為,這些將新技術引入政府運作的創新,往往是出於非常良好的意圖;它們源於對效率、速度和低成本的興趣。然後,我認為,僅在過去的 20 到 25 年左右,這些決策才變得有目的、有意識,成為一種對民族國家角色的篡奪。
這並非我的臆測。你聽到許多非常知名的科技企業家談論希望超越民族國家的時代。許多 90 年代的未來主義者是自由意志主義者,他們特別有興趣利用網路的進步以及隨後的創新,作為消除民族國家的一種手段。
你一方面談論科技本身,另一方面也談論其背後的哲學,以及企業日益扮演的角色。我很好奇我們能在多大程度上將它們分開。我們是否真的能擁有一個不必然導致我們似乎正走向的未來的網路和社群媒體版本?
絕對可以。我是一名歷史學家,不是科技作家,也不是科技記者,更不是電腦科學家。我是一名歷史學家,主要是一位政治歷史學家,儘管我也是一位文學歷史學家。因此,在這本書中,我真正感興趣的是為讀者揭示所有「如果…會怎樣」的可能性,所有替代方案,那些未曾選擇的道路以及原因。
當然,在 1990 年代,關於網路開放後應該是什麼樣子,曾有過非常熱烈的討論。我們最終得到的 1996 年《電信法》,我認為,很多人會說那只是一個錯誤,而非惡意行為,對吧?
但它是特定政治時刻的產物,深受 Newt Gingrich 及其「與美國的契約」(Contract with America)的影響,而且很難重新審視。我認為值得思考當時有哪些替代方案。
個人電腦也是如此。如果我們要為「更好的電腦技術會帶來更好的民主」這個承諾找到一個起點,我認為你首先會看到的是 1984 年 1 月,Apple 在超級盃期間為 Macintosh 發布的廣告,其中帶有 George Orwell《1984》的主題。
Apple 非常強調大型主機代表著極權主義。他們試圖拆除巨大的灰色 IBM 機器,在廣告中將它們描繪成極權國家。而輕巧、美麗、快速、可愛的個人 Macintosh 將是摧毀那台機器的斧頭,並將開創一個「1984 不再是『1984』」的新時代。
那是巧妙的廣告。我懷疑 Apple 的任何人真的相信個人電腦會是個人解放的工具。我的意思是,它確實會讓許多很酷的事情成為可能。我記得我得到我的第一台 Macintosh 時,當然不是 1984 年,但它真的很酷,很有趣,令人興奮,我在上面做了很多事情。我從未想過它會提升我的公民能力或我在公民社會中更好地運作的能力。它只是一個很酷的工具。
但如果你把時間軸快轉到 2026 年,沿途的站點包括 2016 年大選,當時 Facebook News 為回應批評而成立了一個最高法院。去年,Anthropic 聘請了一位道德哲學家來撰寫憲法。最近,Sam Altman 在 Joe Rogan 的節目中說(回應 Rogan 的提問):「喔,一位 AI 總統會是個好主意。」
在某些方面,這些都是愚蠢的例子。但你看到這些公司,這些來自矽谷的科技公司,尤其是他們那些魅力十足或不那麼魅力十足的領導者,正如何承擔民族國家的裝飾和民主的職能。
他們不是擁有複雜政治哲學的人,這就像 1984 年 Macintosh 廣告的卡通版本,只不過它把自己看得太認真了。而這些公司擁有如此巨大的權力。
話雖如此,這本書並非始於 1984 年。我只是認為那是一個很好的例子,說明我們的現代時代以及一場有趣的廣告活動如何轉變為 Sam Altman 等人的一種妄想幻想。
你還談到所謂「Twitter 革命」的承諾,以及它將把民主帶到世界各地。當 Sam Altman 或其他 AI 執行長現在說 AI 將帶來所有這些不可思議的禮物,因此,如果你阻礙它,你就是阻礙進步,阻礙歷史,我忍不住會讓這些說法影響我的反應。
我的意思是,Twitter 實際上是一個很好的例子,對吧?當它推出時,當 Jack Dorsey 創立它時,它並沒有宣稱:「我們要拯救人類,我們要將人類文明從滅絕中拯救出來。」它有點像個玩笑,我認為早期使用 Twitter 的人會說:「你知道嗎?它其實真的很有趣。」就像是:「我今天做了鮪魚三明治。你午餐吃了什麼?」Twitter 作為一家公司並沒有在舞台上宣稱:「我們來這裡是為了拯救民主。」
真正發生的是,政治人物、民選官員開始以增強其政治權力、擴大其訊息傳播、接觸年輕受眾、與受眾保持持續聯繫的方式使用 Twitter。政治人物和政治競選活動真的說服了 Twitter,至少在我看來是這樣,我沒有該公司的內部帳戶,但 Twitter 有點不情願地接受了:「Twitter 變得如此龐大,人們經常發布政治相關內容,以至於它幾乎就像一個市政廳。」
到了 2012 年,Twitter 短暫歷史中的許多年前,他們發布了一份名為《Twitter 政治與選舉手冊》的東西,這實際上是為政治候選人和民選官員如何最有效地使用 Twitter 提供的指南。然後他們開始推廣:「這是一個你口袋裡的市政廳,它正在改善我們的民主,因為我們正在恢復已廢棄的新英格蘭鎮民會議。」而這一切都只是瘋狂的。
客觀地說,沒有什麼比這更離譜了。當時,五分之一的美國人擁有 Twitter 帳戶。大多數擁有 Twitter 帳戶的人從未使用過它們,而所有關於政治的推文中有超過 90% 是由不到 10% 的經常使用 Twitter 的人發布的。Twitter 無法代表選民。
Twitter 代表的是美國人中最極端、政治最活躍、高度黨派化、熱衷於政治的人。現在回頭看,我們可以發現:「嗯,那真的只是一個扭曲的機器。如果政治人物用它來衡量選民,他們會得到非常糟糕的資訊。」
再說一次,你可以說 Twitter 並沒有試圖參與人工國家或破壞民主。Twitter 只是想做生意,獲得更多用戶,銷售更多東西。但它產生了這些意想不到的後果,然後它就安於現狀並習慣了這些後果。
我想多談談這本書的結構。如你所說,它始於科技史、思想史,後半部分是關於科幻小說的。你能多談談這個結構是如何形成的,以及你為什麼想這樣處理這些事情嗎?
我一方面對科幻故事預測我後來稱之為人工國家到來的頻率非常感興趣,所以我真的很想確定一種我認為是人工國家寓言的文學傳統,其中機器變得越來越複雜,它們接管了越來越多的人類職能,包括政府職能,最終它們開始統治人類,然後它們可能會摧毀所有人類,因為它們不再真正需要人類了。
也許它們只是奴役人類,這取決於情況。我們是在《魔鬼終結者》中還是在《星際大爭霸》中?有不同的版本,這些故事可以追溯到很久以前。它們可以追溯到 1850 年代,以及對工業主義後果進行思考的早期幾十年。
我認為很多人,我的學生,我的大學生當然是這樣,真的相信科技變革等同於進步。不僅如此,而且唯一的進步就是科技變革。這在人類歷史上是一個新奇的觀念。這是一種智識上的...



