隨著「Pacing the Frontier」等專案尋求透過大型實驗室確保 AI 研究安全，開源模型已成為業界的痛點。由於其自由分發且難以控制使用方式，開放權重模型不易管理，導致部分實驗室對其感到極度擔憂。
然而，在上週拉斯維加斯舉行的 Ai4 大會上，三位全球最受尊敬的 AI 研究人員，諾貝爾獎得主 Geoffrey Hinton、World Labs 執行長暨共同創辦人李飛飛（Fei-Fei Li），以及 Coursera 共同創辦人吳恩達（Andrew Ng），就此議題發表了看法。儘管他們在具體策略上存在分歧，但三人都強烈主張維持 AI 的開放性。
對於這三位講者而言，核心擔憂在於少數幾家大型 AI 公司控制著進步的速度。當少數公司控制著某項技術的存取權時，就像 Apple 和 Google 對於行動作業系統那樣，創新可能會放緩，而控制平台的公司也能影響其上開發的內容。
吳恩達表示，他擔心 AI 領域會出現類似的動態。「我不希望有守門人」吳恩達說。「這會限制我們所有人存取 AI 的方式。」
公司有動機保護其競爭優勢，包括透過影響產業規則。這可能會導致只有最大、資金最雄厚的公司才有資源建立最先進的 AI 系統。
吳恩達的解決方案是維持多個供應商，讓模型和公司相互競爭，而不是讓少數參與者主導該領域。「如果我要提出一個建議，那就是促進開放性」吳恩達說，「因為 AI 是一項了不起的技術，我希望它能掌握在每個人的手中。」
但並非所有人都同意開放權重模型有助於維持這種局面。特別是 Hinton，他區分了開源軟體（公開底層程式碼供檢查和修改）和開放權重模型（向大眾發布已訓練 AI 模型的參數）。
「開源很棒。你向人們展示程式碼，很多人會查看程式碼行並說：『喔，這裡有個錯誤。』開放權重意味著你訓練了一個大型模型，然後把權重給了人們。這非常不同」Hinton 說。「我反對開放權重，因為它讓大家太容易取得這些訓練成本非常高的基礎模型，然後用少得多的錢將它們訓練成做壞事，例如網路攻擊。」
然而，Hinton 承認開放權重模型已經是 AI 領域的永久存在。「我認為這場戰役已經輸了。我們現在有了開放權重模型，因此許多人取得這些大型模型的障礙，也就是訓練基礎模型的成本，已經消失了。為時已晚。」
然而，接受現實並不意味著忽略風險。Hinton 的立場很明確：AI 將會持續進步，他認為這在很大程度上是件好事。他說這將提升生產力並改善教育和醫療保健。「擔心 AI 可能帶來的負面影響，以及比我們更聰明的智慧生物可能做出的事情。我認為這並非不公平。我認為將任何有這種想法的人貼上『散佈恐懼者』的標籤是不公平的」Hinton 補充道。
吳恩達則持不同看法。他認為問題不在於開放模型是否有風險，而在於誰控制存取權以及誰將贏得市場。誰能建立更便宜的模型，誰就擁有優勢。他警告說，如果中國的開放權重模型在亞洲、非洲和/或開發中國家廣泛採用，它們可能會影響數十億人對民主、自由和人權等概念的看法。
「我希望我們能做的一件事是鼓勵美國的競爭力與開源 AI。事實證明，AI 是巨大的軟實力來源。例如，你可以看到中國的模型在非洲取得了巨大的成就」吳恩達說。「但我的擔憂是，由於美國所有的遊說和散佈恐懼，美國的開源 AI 難以與來自中國的開放權重模型競爭，我擔心如果中國找到一種根本上更具成本效益的方式來建立 AI，那麼更具成本效益的事物將在商業採用上擁有根本性優勢。」
李飛飛則反駁了這種框架。「將其視為從完全開放到完全封閉的二元對立是非常危險的」她說。「在複雜的軟體系統以及科學系統中，情況要微妙得多。」
李飛飛以核物理學為例：科學論文是公開發表的，但鈾受到管制，而實驗室工作則介於兩者之間。她解釋說，這告訴我們開放性不一定是全有或全無的選擇。生態系統的不同層次可以以不同程度的開放性運作。
她還強調了公私機構之間的合作，例如人類基因組計畫。她說，由此產生的知識成為一個平台，供其他人在此基礎上發展，讓製藥公司獲利、科學家推進研究，並造福社會。
「所以我認為我們必須將 AI 視為那樣的基礎設施」李飛飛說。「我們需要一定程度的開放性，無論是在科學發現、教育、全球夥伴關係，以及企業家的有利可圖的商業模式方面。但我們也會接受閉源系統。這場辯論，特別是在『我們只能容忍一種』這種全面性的層面上，是一個錯誤的辯論。我們需要達到一個更細緻的層次。」
但所有人都同意，需要某種程度的監管才能讓 AI 保持在正確的軌道上。「我們要做的是將 AI 朝著幫助人類的方向發展，而監管將幫助我們做到這一點」Hinton 說。「你不能把 AI 應該如何發展的決定權留給像 Elon Musk 和 Mark Zuckerberg 這樣的人。」
