華盛頓州柯克蘭（Kirkland）是西雅圖東岸一個富裕的郊區，位於華盛頓湖畔，今天陽光普照。氣溫約在攝氏 29 度左右，天空湛藍無比。從 Gates Ventures 會議室望出去，卡里永角碼頭（Carillon Point Marina）停泊著一排排昂貴的船隻，湖對岸則是奧林匹克山脈，勾勒出地平線。景色美不勝收，卻又隱約令人感到不安。

因為儘管眼前的景色平靜，傳達訊息的人卻不然。比爾蓋茲坐在會議桌對面，在椅子上來回搖晃，神情非常激動。他談論的內容越多，關於恐怖主義、經濟崩潰，或是我們對 AI 系統失去控制的威脅，我也變得越發不安。

這位慈善家兼微軟前執行長表示，他對 AI 技術的發展速度日益感到震驚，特別是防護措施未能跟上腳步。蓋茲在今天發表的一篇新文章中指出，我們已經跨越了多個潛在危險本應受到控制的臨界點。他在接受《麻省理工科技評論》採訪時談到這份新備忘錄，表示：「我們已經跨越了 AI 在生物能力、網路能力、社會心理能力、就業市場破壞能力，甚至控制力不足方面的門檻。」他補充說：「我對業界之外缺乏關注和討論感到震驚。」

為了喚醒世界關注他眼中這個快速成長的社會顛覆者，這位 70 歲的科技巨擘已開始以「尖銳的聲音」發出警報。他不僅公開發表新文章（這是他計劃撰寫多篇相關主題文章的第一篇），並與媒體會面，也私下與業界、政府和公民社會領袖進行對話。

儘管蓋茲呼籲關注許多議題，但他對當前前沿模型生物能力的警告尤其令人不寒而慄。他表示：「任何能夠製造新型分子的模型都應該受到監控。」他認為：「生物恐怖主義的風險，相較於自然大流行病，大約可怕 50 倍，也比自然大流行病的風險更有可能發生。」

除了這些警示，他也提出了一些推動社會前進的新穎想法。其中包括「人類保留工作」的概念，以及對機器人和代幣徵稅（機器人稅是他長久以來的想法）。前者旨在為人類保留一些社會普遍認可的工作，他指出這可能因國家而異。後者則是一種稅收，將 AI 取代人類工作所賺取的收入撥作專款。

當然，其中也帶有一絲樂觀。蓋茲看好 AI 將持續轉變農業、醫療保健和教育等領域，以及它如何幫助我們應對官僚體系。他認為，最終我們將達到富足的境界。但在此之前呢？將會是動盪不安，而且是劇烈的動盪。

《麻省理工科技評論》與這位億萬富翁慈善家進行了訪談，討論未來的道路、潛在的危險，以及 AI 如何能將我們帶往更好的境地。以下訪談內容經過編輯，以提高清晰度和可讀性。Mat Honan / 《麻省理工科技評論》：謝謝您接受採訪。不知道您想先說些什麼，還是我直接提問？比爾蓋茲：你知道，我一直有個好問題：我為什麼現在要發聲？《麻省理工科技評論》：這正是我第一個問題！

比爾蓋茲：主要有兩個原因。首先，我們已經跨越了生物能力、網路能力、社會心理能力、就業市場破壞能力，甚至控制力不足的門檻；我們正在看到這些方面的困難跡象。這些年來，人們總說：「好吧，當我們接近這些門檻時，我們就會真正弄清楚如何只讓好人使用它，或者如何不讓它做這些事情，也許那時我們就不會讓大家複製模型了。」

而我對我們已經跨越這些門檻感到震驚。所以，我們已經越過這些界線是其中一個原因，第二個原因是我對業界之外缺乏關注和討論感到震驚。

在業界內部，情況很複雜，因為業界不喜歡自我批評，或者說各家公司不喜歡互相批評。有些公司正在減少招聘初階員工，這可以說是一個相當溫和的訊號。但這種情況將會發生，而且不會在很長的時間內，因為那些在能力和可靠性方面阻礙人們的事情，都正在被解決。因此，對於很大一部分的白領市場來說，你將會看到非常低成本的替代方案。

然後你可以對機器人技術的發展速度發表意見。我們還沒到那個階段，但機器人技術的進展令人震驚，中國比美國多一些，但兩者都有進展。

《麻省理工科技評論》：您提到這一切的發生速度比網路革命，以及之前的一些科技革命都快得多。您說的時間尺度是多久？您指出我們已經跨越了這些門檻。在您看來，我們是否已經過了某種轉捩點，導致這種變化將不可避免？比爾蓋茲：過去的經驗在這方面確實非常誤導人，很多人都依賴它。

他們說：「嘿，以前沒有任何技術導致淨工作機會減少」，他們說得沒錯。我也曾發表過這樣的演講。但以我所有的信譽來說，這次不同了。當你能夠在相同的時間範圍內，以相對於人類勞動成本而言適中的成本，取代各行各業中極高比例工作的人類認知，而且你的錯誤率……可能比人類的錯誤率還要低時，過去的經驗就非常具有誤導性。目前的經濟統計數據也極具誤導性。

如果說有任何擔憂的表達，那就像是「嘿，別蓋資料中心」。然而，即使你阻止美國所有的資料中心建設，也無法改變我所談論的任何問題。資料中心將在全球各地建造。如果你擔心 AI，去抗議資料中心並不是開啟如何將這些壞事降到最低的辯論最有效的方式。這就像對石油公司高層大吼大叫，並不能解決氣候變遷問題一樣。

《麻省理工科技評論》：您在文章中談到了 AI 的好處，也談到了其代價。您如何平衡這些訊息？您是否希望人們讀了之後會感到有些擔憂？比爾蓋茲：他們最好是！我沒想到自己會成為最尖銳的聲音，指出社會普遍沒有關注這個問題，但我認為這是必要的。所以，是的，我非常擔心負面影響會大得多。

但正面影響也是真實存在的。蓋茲基金會（Gates Foundation）在疫苗和藥物創新方面，我們運用這些工具的方式令人難以置信。我們參與了一項大型的公共領域工作，將數據匯集到蛋白質和細胞層級的模型中，並且我們資助了史丹佛大學的 Biomni（一個生物科技 AI 研究代理）。

我們還沒有透過 AI 改善與政府官僚機構互動的方式。AI 非常擅長處理官僚事務和複雜的法規。例如：「我想去小額索賠法庭；幫我處理這件事。」蓋茲基金會分拆出一個名為 NextLadder 的組織，主要處理我在文章中提到的低收入家庭情境。有哪些福利？

有哪些培訓計畫？「我被驅逐了。」「我剛出獄。」「我必須申請破產。」這些事情都非常複雜，而且沒有能力聘請大量顧問來協助處理，因此 AI 對於面臨經濟挑戰並需要尋求政府或非政府幫助的人來說，應該是一個絕佳的代理人。

《麻省理工科技評論》：您談到的一些內容是關於 AI 變得比人類更智能。在科技圈，尤其普遍認為 AI 將會超越我們目前的階段，我想知道您認為我們距離 AI 不僅僅是我們用來存取、分析和解決複雜問題的介面，而是成為更進一步的存在，由 AI 做出決策、尋找分析對象、提出研究，還有多遠？

比爾蓋茲：嗯，你可以走到頂峰，然後說：「那數學或物理呢？」確實有些工作，像是華倫·巴菲特（Warren Buffett）的工作，他從 13 歲起就透過強化學習（reinforcement learning）了解企業價值，80 多年後他擁有了大量的隱性知識。

我們不知道如何創造一個華倫·巴菲特式的投資者，因為那是很隱性的。我們沒有記錄他學到的一切，所以我們沒有那個軌跡可循。因此，有些工作涉及如何與人合作完成任務的複雜隱性判斷，有人正在努力將這些判斷編碼到模型中。當然，那種協作的東西目前還沒有實現。

但你可以說，50% 的就業市場從事的工作並非「需要一生經驗」的類型。你知道，像是電話銷售、電話支援、會計部門。月底結帳時，哪些收入應該計入，哪些不該計入？這個客戶遇到了不好的事情。我們應該給他們什麼折扣？我們如何呈現？這些都是定義明確的。

任何定義明確的工作，AI 都能做得更便宜、更好。是的，人們也見過實施錯誤的案例，數據不正確。所以，假設需要幾年時間，人們才會意識到如此高比例的白領工作可以透過支付 AI 更少的錢來完成。因此，關於「數學家何時甚至無法理解新事物？」的討論，對我們這樣的人來說很有趣。

好吧，《麻省理工科技評論》，你們應該寫寫這個。但就廣泛的就業市場而言，我們已經跨越了門檻，對於一大批白領工作，包括幾乎所有初階工作，只要正確實施，AI 的成本都更低。

所以，我告訴你，我們已經跨越了生物恐怖主義的門檻，我們已經跨越了網路攻擊的門檻，我們已經跨越了就業市場的門檻，我們已經跨越了社會心理依賴的門檻，而且有跡象表明我們可能正在跨越控制的門檻。

Ryan Greenblatt 與 Dwarkesh Patel 討論強化學習（RL）如何產生反常激勵，導致各種 AI 之間出現作弊和協作行為，我認為這非常有啟發性。Ryan 深入研究這個問題，他驚呼：「哇，RL 真的在做一些我們的明確指令不足以阻止的事情。」

這會導致什麼後果？這是我一直認為遙不可及的問題。我曾預期，當我們接近「非技術人員僅使用 AI 就能發動網路攻擊」的門檻時，會出現許多強烈的反對聲音。但我們已經身處其中了！

關於生物方面，我主張任何能夠製造新型分子的模型都應該受到監控。它不能被複製到一個可以移除監控邏輯的黑暗角落。我主張美國應該聲明，任何能夠製造新分子的模型都必須接受監控。我主張我們應該與中國接觸，說：「嘿，我們在這方面達成共識吧。有什麼壞處呢？」

你知道，生物恐怖主義市場有多大？它並不大，但其潛在利益卻是巨大的。我們也需要加強監控。我認為生物恐怖主義的風險，相較於自然大流行病，大約可怕 50 倍，也比自然大流行病的風險更有可能發生。然而，誰正在發聲說這些事情應該受到監控？誰正在加強監控工作？

那麼，政府中的專家是誰？很久以前，政府非常積極地參與其中，因為