跳到主要內容
maxstudioNews
觀點Simon Willison約 2 分鐘

AI 發展:各界公開信與立場交鋒

近期 AI 領域出現多份公開信,反映業界對 AI 發展方向的多元觀點。微軟主導的公開信倡導開放權重模型,強調其對創新與安全的益處;然而,Anthropic 則對開放模型可能帶來的風險表達擔憂,並呼籲限制大規模模型蒸餾。此外,一份由頂尖 AI 公司員工發起的公開信,則呼籲美國政府支持國際合作,以減緩前沿 AI 的發展速度,應對自動化 AI 研究帶來的加速進程與競爭壓力。

AI 發展:各界公開信與立場交鋒
圖片來源:Simon Willison

我將過去幾週關於 AI 發展的公開信摘要,原先寫在我贊助者專屬的電子報中,但現在決定也在此分享。

一份名為「開放權重與美國 AI 領導地位」的公開信,由微軟主導,日期為 7 月 24 日,並有 235 家與 AI 相關的公司簽署,其中包括 NVIDIA(參見黃仁勳的第一則推文)、Amazon、Y Combinator、The Linux Foundation,以及後來加入的 OpenAI。

這份公開信顯然旨在反駁美國政府可能因「安全」考量而禁止或限制開放權重模型的意圖,考量到 Claude Fable 5 所發生的事件,這是一個合理的顧慮!

僅依賴閉源模型並非本質上安全:它們可能被入侵、濫用,或以外部人員無法察覺的方式失效。將先進 AI 能力集中在少數閉源模型上,會加劇這種風險。這會導致少數單點故障,削弱競爭,並使關鍵技術掌握在少數供應商手中。另一方面,開放權重模型允許廣泛的研究人員和開發者社群檢視其行為、識別漏洞、開發防護措施並隨著時間改進它們。

這封信中一個令人驚訝的點是,它支持模型蒸餾,即模型利用其他模型的輸出進行訓練:「在塑造這個生態系統時,政策制定者應謹慎,不要將合法的模型開發技術與不當挪用混為一談。蒸餾,即利用一個模型的輸出幫助訓練或改進另一個模型的做法,是一種廣泛用於模型改進、評估和驗證的技術。它反映了從現有技術中學習、建立和改進的悠久傳統,這個傳統自開源軟體運動興起以來,一直推動著創新。」

值得注意的是,Anthropic 並未簽署這份公開信,他們在三天後發布了自己對開放權重模型的立場。執行長 Dario Amodei 強調了威權政府可能建立「比美國所建模型更強大 AI 模型」的風險,以及模型可能「被濫用以進行網路攻擊或生物攻擊」,並呼籲「打擊工業規模的蒸餾操作」,同時也聲明「Anthropic 從未主張禁止開放權重模型」。

隨後在 7 月 28 日,「減緩前沿發展步調」公開信發布,簽署者包括「1,324 名前沿 AI 公司的員工」,其中不乏 Jakub Pachocki(OpenAI 首席科學家)、Ilya Sutskever(Safe Superintelligence Inc,前 OpenAI)、Dario Amodei(Anthropic)和 Jack Clark(Anthropic)等知名人士。

他們的核心訊息是:「我們請求美國政府支持一項國際努力,以開發所需的技術和治理工具,來審慎地控制自動化 AI 發展的前沿步調。」

他們擔憂的是激烈的競爭壓力,加上自動化 AI 研究導致的 AI 進程加速。考慮到 Anthropic 使用 Claude Code 生成了 80% 的程式碼,OpenAI 的 Sol 將其端到端服務成本降低了 20%,以及 Kimi K3 設計了一款晶片來服務基於其自身架構構建的微型模型,你就能理解為什麼人們現在更認真地看待這種風險了。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 Simon Willison 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。