週六，在短短九小時內，四大 AI 實驗室，這些實驗室鮮少達成共識，卻擱置了多年的恩怨與競爭。他們共同支持放慢 AI 模型開發的速度，並採取了新立場：即使付出代價，也要將安全置於成長之上。
宏觀來看，AI 勢不可擋的成長已在公眾、華府乃至於開發這些技術的公司內部，達到了一個轉折點。資料中心不受歡迎，人們對末日情境感到恐慌。而在期中選舉前 51 天，立法者突然意識到，透過打擊 AI 可以贏得選票。在這樣的背景下，業界最有權勢的執行長們於週六踩下了煞車。
美東時間上午 10 點，Anthropic 執行長 Dario Amodei 發表了一篇 3,800 字的論文，指出模型開發需要放慢速度，否則可能會出現末日情境。他提到，例如流氓代理程式接管整個網路，最快可能在六個月內發生。一小時後，SpaceX 執行長 Elon Musk 在 X 上引用 Amodei 的論文並表示「Dario 說得對」，震驚了 AI 圈。
Musk 領導的 SpaceXAI（前身為 xAI）此前曾明確拒絕加入任何要求放緩發展的業界呼籲。
中午 12 點 30 分，OpenAI 執行長 Sam Altman 推文表示：「我同意 Dario 的看法，我們需要放慢前沿技術的發展。」在週五進行並於週六發布的《財富》雜誌採訪中，Altman 透露 OpenAI 今年不會上市，打破了外界對其首次公開募股的期望。他表示 OpenAI 還有太多安全工作要做，作為一家私人公司會更適合完成這些任務。
晚上 7 點，諾貝爾獎得主、Google DeepMind 共同創辦人兼董事長，同時也是 Alphabet 首席科學家的 Demis Hassabis 推文表示：「Dario 的論文指出了正確的前進方向。細節仍需推敲，但這個方向對於應對當前關鍵時刻是正確的。」
言下之意，公開將安全置於技術或財務成長之上，或許是業界避免受到不按其意願進行的打擊的唯一途徑。立法者正懇求眾議院議長 Mike Johnson 繼續開會，並針對 AI 的「威脅」採取行動。更極端的替代方案，則是像參議員 Bernie Sanders 那樣，推動強制暫停並將最先進的 AI 定為非法。
現實檢視：大多數人意識到，涉及的資金規模龐大，不可能完全停止前進。但權衡之下，可能是在「歷史性巨富」與「略少於歷史性巨富」之間做選擇。我們將拭目以待，看他們是否真的能就「監管」（例如「嵌入式第三方評估員」）和「放慢」的具體含義達成共識，並付諸實踐。
摩擦點在於：中國沒有人有同樣的「我們最好停下來」的時刻。包括前川普政府官員 David Sacks 在內的有影響力的矽谷科技界人士，週六都在強調反對意見，認為放慢速度只會讓沒有安全顧慮的競爭對手迎頭趕上。Sacks 在週六深夜的一篇貼文中，實際上是在挑戰 OpenAI 和 Anthropic，要求他們在不等待政府的情況下，自願放慢 AI 前沿技術的發展。
他寫道：「如果你們不這麼做，我們就會知道這只不過是另一場尋求監管俘虜的嘗試，或是一場選舉季的心理戰。」
Amodei 甚至承認，安全規範只有在威權政府也加入討論的情況下才能真正奏效。他寫道：「民主國家內部的發展速度，將受限於美國公司相對於威權政權（主要是中國共產黨）的領先優勢。如果我們放慢的速度超過這個限度，那麼（未受限制的）與中共相關的專案將會超前，造成重大的國家安全風險。」
總而言之：週六可能將被視為 AI 產業轉變的一天，業界巨頭們承諾自我設限。建議閱讀 Amodei 的論文《我們必須放慢前沿技術的發展》。
