我在 IMF 預警：AI 奇點已至，科學與經濟將迎來劇變

歡迎閱讀 Import AI，一份關於 AI 研究的電子報。Import AI 的內容來自 arXiv、咖啡和讀者的回饋。如果您想支持我們，請訂閱。

這是我在 10 月 17 日於曼谷舉行的 IMF 會議上發表的演說。這場演說的靈感來自於讀者們今年看到我報導的巨大趨勢，即 AI 開始在人類科學前沿運作，有時甚至能自主進行。儘管我們可能對細節有所爭議，但我認為我們正處於奇點的早期階段，這點顯而易見。

我想利用我受邀發表 Per Jacobsson 演講的機會，向在場的經濟學家、銀行家和政策制定者傳達，他們應該預期未來將會發生重大且快速的變化。在這場演說中，我主要關注如果我們能具備適當的遠見和克制，人類如何能共享 AI 帶來的益處；我將在接下來的幾期中，進一步闡述奇點的利害關係以及我們將面臨的風險。

正如我在演說中多次提及（其中有些是即興發揮，未在此記錄），我對自己的責任極為重視。我發現自己既是 AI 發展的敘述者，也是其背後的主要推動者，同時還是許多社群之間的轉譯者。在所有這些角色中，我力求真實，並清楚表明自己的責任。這是一個永無止境的進程。

感謝各位閱讀。這類演說大量取材自電子報，而電子報正是我每週為大家提供資訊的嘗試。我感謝各位的讀者身份。

*事件視界內部：為何每個人都應嚴肅看待 AI 進展*

大家好，謝謝邀請我。能來到這裡，我深感榮幸。

首先，我應該列出我的相關資歷：我是一個人類。我只有一個。我花了將近 40 年的時間才累積足夠的經驗來發表這場演說。稍後我會再回到這些資歷。

我的整個職業生涯，都在尋找對世界未來至關重要的資訊，然後將這些資訊告知世界。二十年前，我以記者身份開始我的職業生涯，專注於資料中心。透過那份工作，我對 AI 產生了極大的興趣，以至於在 2016 年我離開新聞業，轉而到 OpenAI 工作，幾年後又共同創辦了 Anthropic。

從那時起，我一直試圖說服世界，有一天 AI 系統可能會變得如此強大，足以改變國家安全、改變全球經濟軌跡，甚至最終獲得自我建構的能力。

現在，這個時刻已經到來。AI 正在改變國家安全，它正在改變世界的經濟軌跡（正如我們在這裡許多會議上聽到的），並且正在為自身的發展做出貢獻。

當然，你們許多人都知道這一點，而且你們必須將 AI 視為塑造你們世界和工作的多重不穩定力量之一來追蹤。

我今天在這裡要解釋的是，AI 將帶來比我們預期更多的變化，我們應該為此做好準備。我將解釋原因。

多年來，研究人員和科幻作家一直預測，未來 AI 系統將大幅加速整體科學和技術進步的速度，使其發展如此之快，以至於人類難以跟上。他們稱之為「奇點」。我相信今年我們已經獲得了令人信服的證據，證明它現在已經開始了。

作家 Vernor Vinge 在 1993 年預測了這一點。他寫道：「當超越人類的智慧推動進步時，這種進步將會更加迅速。事實上，沒有理由認為進步本身不會涉及在更短的時間尺度內創造出更智能的實體。」他將奇點描述為「一個我們必須拋棄舊模型，由新現實主宰的時刻」。

奇點已至。其影響遍及生活的各個層面。但最重要的影響很簡單：我們應該預期，在未來幾年，不僅是 AI，而是整個科學的進步速度都將加快。這會讓人感到困惑和迷失方向，同時也會帶來巨大的財富和潛在的巨大危險。

今天，我將專注於第一點：AI 快速進步的潛在益處，以及我們需要做些什麼才能共同分享這些益處。

人類將從 AI 中受益的許多方式都源於科學。我相信 AI 驅動的科學發明將改變全球經濟的走向，改變各國規劃和建設自身基礎設施的方式，使我們所有人更健康，並能花更多時間與所愛之人相處。同時，它也將促使我們所有人深入思考關於其持續發展應做出的選擇等哲學問題。

我將闡述我的主張：在過去半個世紀裡，大多數國家都面臨研究生產力下降的問題，儘管研究人員數量快速增長，但新的想法和發明似乎越來越難以尋找。

但一個重要的變化已經發生：我們現在已經建立了能夠增強、擴展和自動化人類勞動某些面向的 AI 系統。這在軟體開發領域最為明顯，AI 系統現在比世界上絕大多數的軟體工程師更具能力和效率。

因此，軟體開發領域正在改變。現在，一個人就能為他們能想像的任何事物編寫軟體，創造出以前需要整個團隊才能完成的東西。

我們在 Anthropic 內部看到了具體的證據，我們的研究人員現在產出的程式碼量，幾乎是公司成立前四年總和的 10 倍。

然而，新的 AI 能力也帶來了新的挑戰。程式碼撰寫能力的提升意味著 AI 系統在網路安全和網路攻擊方面都變得更加擅長。這導致世界各國競相部署這些強大能力來建立更好的網路防禦，而不良行為者則競相利用這些系統進行駭客攻擊。

這裡需要注意的是，這些事物是密不可分地聯繫在一起的。AI 系統在程式碼撰寫等通用領域的進步，同時也在網路安全等國際相關領域產生了正面和負面影響。

這只是未來發展的預兆，預示著進步將帶來新的能力和新的挑戰。

這些能力不會止步於程式碼撰寫；同樣的情況也將發生在科學和機器人學領域。它已經開始發生了。這意味著全球經濟的一些重要特性可能會改變，例如創新速度，或者我們發明全新通用技術（例如網際網路、電話和人工智慧，這些技術圍繞自身創造了新產業）的頻率。

那麼，是什麼讓我相信這一點呢？在 2026 年，我們已經看到了 AI 系統可能具備在科學前沿進行研究的初步跡象，並且我們有一些引人注目的例子，可以預見未來的樣貌。例如：

在數學領域，AI 系統已被用於提出長期數學問題的解決方案，例如 Navier Stokes 千禧年大獎、Jacobian 猜想和幾個開放的 Erdos 問題。在許多情況下，AI 系統是促成解決方案的核心洞察力來源。

在生物學領域，研究人員已利用 AI 從零開始設計病毒，識別新的藥物候選物進行測試，並且目前已有部分主要由 AI 設計的藥物正在進行臨床試驗。

在機器人學領域，AI 系統現在越來越能夠遠端自主操作實驗室設備，這使我們能夠進一步自動化從生物學到材料科學等領域的實驗，從而在電池和燃料電池開發等領域加速進展。

單獨來看，這些例子中的每一個都令人興奮。但更深遠的事實是，它們都與相同的底層技術相關，而且對於大多數這些應用案例來說，都與同一個單一的基礎前沿模型有關。我們現在擁有了獨特的實體，例如 Claude、ChatGPT 或 Gemini 等 AI 系統，它們能夠在多個科學領域的前沿進行工作。

量化指標證實了這一點。其中一個指標是 AI 系統在一個名為「人類的最後一場考試」（這個名字不是我取的！）中獲得的分數。

這項名稱不祥的測試，是為了回應 AI 系統在前幾年於各種困難且多樣的科學挑戰中取得的深遠進展而開發的，涵蓋了從高等化學、電腦科學、數學、古典文學到生態學等不同主題。

當這項考試於 2025 年 1 月推出時，得分最高的 AI 系統獲得了 8% 的分數。截至本週，得分最高的系統是 Claude Opus 5.5，達到了 67.7%。

另一個例子是 FrontierMath，這是一項於 2024 年 11 月發布的測試，旨在評估 AI 系統解決數百個由專業數學家策劃和評估的挑戰性數學問題的能力。當它推出時，得分最高的系統獲得了 2% 的分數。現在，它們能達到 94%。

更廣泛地說，這種情況隨處可見。選擇你最喜歡的科學領域，去尋找一項測試，你就會發現這種模式：能力突然且急劇地提升，無處不在。

TheoPhysEval 我將以一個故事來結束我的證據。最新的例子來自於上週發表的一篇名為 TheoPhysEval 的論文。這篇論文測試了 AI 系統解決理論物理學中未發表問題的能力。論文中的 50 個問題是由世界各地的物理學家編纂的。

毫不意外地，AI 系統獲得了高分。但令人驚訝的是它們如何獲得這些高分。在這裡，我將引用印度物理學家 Suvrat Raju 的話，他撰寫了一篇評論這些結果的貼文。

他說：「我不知道有任何個人能在沒有 AI 協助的情況下，解決我們最終問題集合中的任何顯著部分。」「我們最初的評估顯示 GPT-6-Astra 的分數在八十幾分，Opus 5.5 緊隨其後。但是，當我們開始調查模型可能犯的錯誤時，這些模型，尤其是 Astra，堅持它們是正確的，反而是專家提供的答案有誤。

當我們回頭詢問專家時，結果發現在多個案例中，專家們在他們的計算中發現了一些深藏的細微錯誤。隨著他們修正答案，Astra 的分數開始逐漸上升，最終達到了 98%（50 題中答對 49 題）。」

請思考一下。世界上一些科學專家設計了一項測試，其中的問題是 AI 絕不可能預先讀到答案的。當他們測試 AI 時，它不僅得分很高，而且透過找出人類答案中的錯誤，獲得了更高的分數！

電影中通常在三分之二處會出現這樣一個場景：年輕的主角最終向導師證明，他們具備獨立闖蕩世界並取得成功的能力。這是一個敘事套路，即「老師變成了學生」。這正是現在正在發生的事情。

那麼，我為什麼要告訴你們這些呢？為什麼 AI 系統在科學方面變得更好很重要？

我認為這是因為進行真正的科學前沿研究，即能夠取得突破性進展以拓展知識邊界，這本身就隱含地測試了其中一個