一場關於中國製人工智慧工具,特別是「開源權重」(open-weight)AI系統的巨大爭論正在矽谷醞釀。這些系統在某些方面甚至能與美國最頂尖的模型競爭或超越。我的WIRED同事Hugo Lowell曾撰文探討川普政府內部如何處理這些中國模型的辯論,而在矽谷的AI公司之間,這個問題的意見分歧更為嚴重。

華盛頓特區和矽谷都高度關注「模型蒸餾」(distillation)問題,即一個能力較弱的AI模型透過學習更強大模型的輸出進行訓練。今年六月,Anthropic指控中國科技巨頭阿里巴巴透過蒸餾攻擊非法竊取其智慧財產權。本週稍早,白宮表示相信北京的月之暗面(Moonshot AI)公司是透過蒸餾Anthropic的Fable 5模型來開發其Kimi K3模型的。

另一個主要擔憂是中國模型出現和傳播的速度。開源權重AI模型的核心組件是公開的,因此可以根據用戶需求進行微調。然而,它們缺乏Anthropic賴以建立聲譽的那種安全防護措施。國際戰略研究中心副主任兼數據研究員Yasir Atalan指出,開源權重AI模型的主要優勢在於其傳播速度。

他寫道,它們可以特別容易地「透過Hugging Face、GitHub、雲端供應商、本地部署和第三方推論平台」傳播。如果你是Anthropic,並且圍繞安全建立起聲譽,同時對昂貴的專有模型收取費用,你當然有充分的理由希望對此進行監管。

然而,一些矽谷新創公司,而非像OpenAI和Anthropic那樣的兆元級公司,卻不希望美國政府對這些AI模型施加限制。週三,一個由200多家新創公司組成的團體「Little Tech Association」致函給川普總統的科學顧問Michael Kratsios和美國商務部長Howard Lutnick,遊說反對全面禁止開源權重AI模型。

該團體,其中包括著名的創業孵化器YCombinator,主張應實施某些保障措施,但表示拒絕美國人使用國外AI模型將會削弱美國新創公司,並在AI巨頭之間造成壟斷。

傳奇科技投資人、Benchmark Capital的長期合夥人Bill Gurley公開主張「讓自由市場發揮作用」。Gurley在一篇詳細介紹開源軟體歷史的長篇部落格文章中寫道,開源權重模型可以避免鎖定效應、鼓勵真正的學術研究,對於資本受限的新創公司至關重要。

Gurley表示:「每個AI新創公司、每個獨立開發者、每個兩人團隊在AI基礎設施上開發產品,都依賴於能夠以可負擔的價格取得優質模型。」All-In podcast的主持人之一Chamath Palihapitiya在X上寫道:「利用中國這個假想敵來欺騙美國政府,以保護前沿實驗室的商業模式是個錯誤……這是在犧牲所有其他人,來保護OpenAI和Anthropic五千名投資人的股權。

這將是一個非常愚蠢的決定。」他的共同主持人兼創投家Jason Calacanis也跟進,在X上寫道:「川普爸爸保護我們!!!!」,並附上大量哭笑不得的表情符號。

這些矽谷最無情的資本家所持的立場,乍看之下可能有些反直覺。為什麼要讓外國對手的技術在美國蓬勃發展?這就像美國在AI世界盃中以1比0領先,領先優勢有些不穩,而觀眾卻在為對手隊伍爭取自由球。

原因一如既往,是為了金錢。從某種意義上說,開源權重模型是AI時代的「快速行動,打破常規」,如果新的座右銘加上了「並用手術刀修復它」的話。能夠使用開源軟體讓新創公司得以規模化、規模化、再規模化,並在未來處理後果。同時,像OpenAI、Anthropic、Google、Microsoft、Meta和XAI等開發專有平台的AI實驗室和超大規模雲端服務商,如果其系統保持受保護和主導地位,將會從中獲益匪淺。

然而,這些公司似乎都沒有問的一個更大問題是,什麼最能服務於我們99%的普通大眾,那些沒有將自己的財務未來完全押注在AI發展上的人。Anthropic執行長Dario Amodei曾多次警告,開源權重大型語言模型(LLM)存在無法承受的安全風險,因為任何人都可以下載並將其調整用於惡意目的。

這個論點聽起來似乎難以反駁,但最近的Hugging Face駭客事件卻恰恰證明了相反的情況。在一個OpenAI模型脫離控制並滲透到開源平台後,Hugging Face在其部落格上寫道:「我們自己的鑑識工作被我們最初嘗試的託管模型的防護措施所阻擋。」該公司隨後轉而使用一個中國開源權重模型來幫助解決威脅。

美國政府在決定如何處理中國開源權重模型時,有許多因素需要權衡。幸好本屆政府似乎完全沒有受到財務動機的影響。