跳到主要內容
maxstudioNews
觀點TechCrunch AI約 3 分鐘

Anthropic 執行長 Dario Amodei 回應:不反對開源模型,但擔憂中國 AI 發展

Anthropic 執行長 Dario Amodei 澄清,該公司從未主張禁止開源模型,並將其視為公共財。然而,他對中國等威權政府利用 AI 達成軍事優勢或進行生物攻擊深感擔憂,認為開源模型在此類情境下更具風險。他建議限制中國取得晶片並打擊智慧財產竊取,同時支持全球性的 AI 安全測試。

Anthropic 執行長 Dario Amodei 回應:不反對開源模型,但擔憂中國 AI 發展
圖片來源:TechCrunch AI

Anthropic 創辦人暨執行長 Dario Amodei 週一下午回應了業界的傳聞,這些傳聞暗示他的公司某種程度上支持美國政府禁止中國開源模型,甚至可能是一般開源模型的努力。

他寫道:「任何讀過我過去文章的人都應該知道,我不認為這類禁令是有效的措施。但我還是明確聲明,以免產生任何疑慮:Anthropic 從未主張禁止開源模型。」他特別強調了這句話。

他的回應是在 Nvidia 創辦人暨執行長黃仁勳週五在 X 平台(這是他在該平台上的首篇貼文)分享一封公開信之後。信中,Nvidia 以及 Hugging Face、Meta、Microsoft、Mistral 等眾多 AI 公司,共同呼籲政策制定者不要對開源 AI 模型施加廣泛的「過早限制」。

儘管該信件並未明確提及中國,但業界的討論一直圍繞著中國 AI 實驗室透過竊取美國同行的智慧財產權來提升能力的指控。其中一種方法是「知識蒸餾」(distillation),即一個 AI 模型透過大量提示詞轟炸另一個模型,以學習其運作方式。

Amodei 在週一發布的部落格文章中表示,他認為開源模型與中國構成的威脅屬於不同範疇。他指出:「不具危險能力的開源模型是一種公共財:除了運行所需的算力之外,它們不產生任何成本,並為企業、開發者和研究人員提供價值。」

Amodei 在他的貼文中提到,他對 AI 抱持著長期的擔憂,但企業使用開源模型(即使是來自中國的模型)並不在他的擔憂之列。

他擔心的是「威權政府」將會建立比美國更強大的模型,以實現「永久的軍事優勢」,並/或利用 AI 鎮壓自己的人民。他表示,中國共產黨(CCP)並非他唯一擔憂的威權政府,但它是「能力最強的」。

Amodei 還表示,他擔心 AI 不僅會促成網路攻擊,還會導致「生物攻擊」。他認為,在這些情境下,開源模型更為危險,因為難以對其施加防護措施或監控其使用。他還引用英國 AI 安全研究所的報告指出,一旦開源模型發布,就無法撤回。

這與開源倡議者的論點相悖:開源倡議者認為,取得不受單一實體控制的強大開源模型,有助於防禦者保護自己。

Amodei 列出了他認為可以阻止中國的行動,包括限制其取得強大晶片(這一直是美國的長期政策),以及呼籲正式打擊知識蒸餾。美國曾威脅,如果確定中國涉及竊取美國模型的智慧財產權,將對其實施制裁。

有趣的是,Amodei 也表示他支持日益增長的努力,其中一些由美國主導,旨在建立一個模型安全測試組織,特別是如果全世界(包括中國)都同意接受其測試。

Amodei 寫道:「我認為這個想法實際上已接近共識:令我感到振奮的是,川普政府近幾個月來朝這個方向發展,以及最近業界提出的建議,即將此類測試應用於最具能力的模型,無論其來源國或開源/閉源性質(同時完全豁免能力較弱的模型,例如來自新創公司和學術界的模型)。」

他補充說:「請注意,為了有效,測試需要是全球性的,這意味著即使是中國共產黨也需要參與。我認為這實際上是可能實現的……在防止 AI 生物武器方面的有限合作可能是可行的,因為這也符合中國的利益。」

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 TechCrunch AI 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。