長期以來，AI 競賽一直被視為一場零和遊戲：最終不是美國贏就是中國贏。然而，隨著人們對 AI 模型，特別是 AI 代理程式能力日益增長的擔憂不斷累積，兩國研究人員正試圖聯手合作，共同致力於 AI 安全。
本週，特約編輯 Zoë Schiffer 與資深撰稿人 Will Knight 進行對談，討論他今年夏天訪問中國時的所見所聞，以及為何兩國可能確實需要開始合作，以避免一場重大的 AI 災難。這是我們暑期系列節目的第二集，下週將恢復常規的圓桌討論。
本集提及的文章包括：《我見到了中國頂尖 AI 專家，他們也嚇壞了》、《AI 入侵很糟糕，AI 蠕蟲和病毒會更糟》、《未來的人形機器人：六英尺高、中國身體、美國大腦》。
Zoë Schiffer 表示：「這裡是 WIRED 的 Uncanny Valley 節目，我是特約編輯 Zoë Schiffer。如果你今年夏天一直在關注科技新聞，特別是我們的節目，你可能已經知道中國在 AI 競賽中頻繁登上頭條。」
她補充說：「中國的開源模型正以據估計僅為美國前沿模型一小部分的成本，持續縮小與其差距。相對地，美國則維持對晶片和出口的嚴格限制，以減緩中國的崛起。我們在許多方面將 AI 進步視為零和遊戲，如果中國贏了，美國就輸了，反之亦然。然而，有一種擔憂確實超越了這些界線，那就是關於 AI 安全。」
錄音檔指出，在 OpenAI 和 Anthropic 的 AI 代理程式多次突破其限制後，AI 網路安全風險已成為首要考量。Zoë Schiffer 補充說，今年夏天 AI 代理程式入侵平台的新聞，讓這個問題更顯緊迫。
因此，政府官員被迫關注並採取行動制定 AI 法規。錄音檔也提到，川普總統已簽署行政命令，要求科技公司在新 AI 模型公開發布前，需接受政府的監督。
Zoë Schiffer 接著問道：「那麼，美中兩國是否真能從合作中獲益？要如何才能實現這點？」今年夏天，WIRED 資深記者 Will Knight 訪問了中國，試圖尋找答案。Will Knight 回應：「謝謝邀請。」
Zoë Schiffer 說：「我想從你的旅程開始。你今年夏天稍早去了中國，當時我們在美國還沒有聽到太多關於 AI 安全的討論。事實上，在川普的第二個白宮任期內，感覺就像是『美國必須贏』的框架，AI 安全幾乎聽起來像是反成長。」
她問道：「但我很好奇你在中國聽到了什麼、看到了什麼關於 AI 安全的狀況？」Will Knight 回答：「大約在一年或六個月前，我注意到中國有更多 AI 安全研究成果發表。因此，我參加了北京一個由當地實驗室舉辦的會議。他們在北京、上海等地都有這類實驗室。」
他接著說：「結果發現，AI 安全是一個非常重要的主題。很明顯，這是研究人員感興趣的議題。事實上，在參觀實驗室和公司時，AI 安全問題也經常被提及。」
Zoë Schiffer 問道：「我能問一下嗎，當他們談論 AI 安全時，這是否意味著防護措施？因為我們也知道中國全力投入開源模型，這意味著人們可以下載、調整並將其用於任何目的。」
Will Knight 解釋：「這並非完全如此簡單，因為在中國，例如，你的模型能說什麼是受到更多控制的，而且實際上有很多關於 AI 的法規。所以公司會建立這些開源模型，但任何將它們放到網路上的人都必須非常小心其用途。」
他補充說：「最近，人們對代理程式和像 OpenClaw 這樣的東西產生了巨大興趣，這是一個非常重要的主題。對我來說，至少在比較中國和美國的 AI 時，有趣的一點是，那裡的人似乎對 AGI 和創造數位神祇的想法不那麼著迷，他們更關心這實際上會有什麼用處，無論是作為商人還是個人實際使用它。」
他繼續說：「因此，很多人對 OpenClaw 類型的應用非常感興趣，而且在中國通常很快就被採用，然後他們也看到了可能出錯的地方。所以，現在有很多精力集中在如何讓這些東西變得可靠。」
Zoë Schiffer 說：「這很合理。我的意思是，當你談論中國更專注於經濟上有用的模型時，這似乎是一個需要一定程度的穩定性、可靠性、防護措施和安全性的框架。然而，如果你專注於達到神一般的智慧，也就是 AGI，那麼你可能更傾向於不惜一切代價追求進步。」
Will Knight 同意：「是的，我想這是對的。我參加的會議，其中一個主題就是代理程式安全。鑑於我們現在看到 AI 代理程式入侵系統的種種問題，網路安全在那裡是一個非常重要的議題。看來人們擔心的正是與美國同行相同的事情。」
他接著說：「他們擔心駭客濫用這些東西，或者這些系統失控。正如你所暗示的，我認為現在有一種感覺，美中兩國可能確實需要就其中一些問題進行合作，以避免不可預測的系統性問題，並為這些系統制定更多行為準則。」
Zoë Schiffer 問道：「但那實際上會是什麼樣子？會是美中兩國共同達成的一系列協議嗎？就像美國研究人員最近呼籲的，由美國政府設定 AI 發展的速度？會是那樣的協議還是更技術性的東西？」
Will Knight 回答：「我認為這正是許多研究人員所希望或呼籲的，也就是某種協議。我不確定華盛頓和北京之間的談判會如何發展，因為他們的談判一直非常艱難，很難預測結果。但至少是一些關於溝通的規則。」
他繼續說：「在軍事情況下，有溝通管道。所以如果發生錯誤，如果你的 AI 系統開始做出非常具侵略性的行為或攻擊系統，你就有辦法說『這是一個錯誤』。所以，類似的機制也可能正在醞釀中。但我認為這也關乎雙方如何建立信任，因為實際上，尤其是在網路安全方面，長期以來幾乎沒有任何合作，因為雙方一直在互相攻擊，未能就規則達成一致。」
他提到：「事實上，上週我拜訪了一位正在進行非常出色工作的網路安全和 AI 研究員，我將為我的下一期 AI Lab 電子報撰寫他的研究。他說他無法與美國研究人員合作，因為他們不被允許，存在某些限制。」
他補充說：「他最近開發了一個基準來測試 AI 模型的網路安全和駭客能力，他希望美國公司參與，但他們不確定該怎麼做。所以，我認為看到公司之間有更多合作會是一件好事。我們看到美國公司對中國公司非常批評，但實際上，大家有很多充分的理由一起合作，以確保事情不會出錯。」
Zoë Schiffer 說：「我想深入探討這一點，但我也想說，當你第一次提出合作這個想法時，它聽起來非常學術，甚至有些天真。這是一個好主意，但它實際上會如何運作？」
她解釋：「因為我的看法是，我坦白說，我是從與許多在美國從事前沿 AI 工作的公司交談中得到這個想法的，他們讓我相信存在相當多的『蒸餾』（distillation）行為。也就是說，中國正在蒸餾前沿 AI 模型，這導致他們能夠擁有功能強大、成本更低、效率更高的開源模型，這些模型是建立在美國創新的基礎上。」
她問道：「但我很好奇你對此有何看法，以及你與中國研究人員談論時，他們對這種指控有何看法。」Will Knight 回應：「是的，我認為這是一個很好的觀點，也是一個非常重要的主題。我們聽到人們批評中國公司進行『蒸餾』。你透過擷取另一個模型的輸出，來訓練你的模型，這是一種快速學習許多內嵌知識的捷徑。」
他指出：「但事實是，AI 是由來自世界各地的研究人員在不同公司和實驗室共同建立的。有許多許多來自中國的人，可能在美國接受教育，並在美國公司工作。而且由於這些人會參加會議並彼此認識，這也是開放科學，所以有大量的研究成果被分享，這對進步非常有益，而平衡這一點正是挑戰之一。」
他補充說：「中國公司確實蒸餾了美國模型，但美國公司也對其他美國公司這樣做。這通常是啟動新模型開發的一種方式，而且在學術界非常普遍。許多研究人員都會這樣做。我想說一件事，我發現這些公司透過抓取大量受版權保護的內容來建立業務，現在卻抱怨他們的模型被複製，這有點諷刺。」
Zoë Schiffer 說：「嗯，我想這就是為什麼他們必須如此頻繁地談論中國這樣做，因為如果他們談論美國的任何人這樣做，立即的批評就會是：『拜託，你們未經許可就拿走了所有的書，拿走了所有東西。』但當你將其描述為中國從美國竊取時，味道就略有不同了。」
Will Knight 回應：「是的。這符合中國公司抄襲的某種敘事，這種敘事具有一定的合理性，但我認為這過於簡化和局限了。你可以看看像 DeepSeek 的模型，他們確實進行了非常重要的創新，是美國其他公司也曾複製的獨特創新。」
他補充說：「中國最新被指控進行蒸餾的模型，是 Moonshot 的 Kimi。他們發表的論文包含了許多非常非常有趣的創新，工程上的創新。所以，中國並非只是簡單地抄襲。我認為美國政府和公司相信他們擁有這種『天賦優勢』是很危險的，因為我認為我們很可能會看到中國公司越來越有創新能力，並發展出自己的特色。」
Zoë Schiffer 說：「休息片刻後我們將回來，請繼續收聽。我很好奇，當我們談論安全時，我覺得在美國，尤其是在川普的第二個任期內，安全再次開始感覺像是，至少從政府的角度來看...」
