今天，OpenAI 執行長 Sam Altman 在聯合國安理會就人工智慧議題發表了演說。他討論了 AI 擴大機會的潛力、將強大系統置於人類控制之下的重要性，以及國際合作以確保 AI 安全的必要性。

以下為演說內容：

謝謝主席先生和各位閣下。我很榮幸能在這個重要的時刻來到這裡，並與大家對話。我們談論人工智慧已經多年，但在最近幾週和幾個月裡，感覺卻有所不同。模型快速進步，讓時間線感覺更加緊迫，好處更加具體，但風險和利害關係也變得更加迫切。

我們面前有一個選擇。AI 既可以像一場新的創造力和發現的文藝復興，也可以像一場新的混亂和無序的工業革命。

文藝復興時期，新的工具、新的思想和新的制度擴展了人們認為自己能做的事情。AI 可以在我們這個時代扮演這個角色。我相信人們的能力遠超乎他們想像，但一直受到有限技術的阻礙，這些技術本應賦予能力，卻反而分散注意力並常常竊取人們的關注。

最好的 AI 版本不是將人變成巨大機器中的齒輪，也不是優化生活的每個部分直到人類的部分消失。它是關於在日益複雜的世界中賦予人們更多的自主權：更多的學習、創造、發現、建造和參與的能力。AI 有許多事情不能，也不應該，自動化。

AI 應該為人而建，而不僅僅是為了讓機器更快地運轉。一些正在努力建造 AI 的人所說的末日情景，聽起來就像是糟糕科幻電影的情節。任何如此強大的事物也令人望而生畏。這個時刻很複雜，因為我們同時感受到巨大的潛力，以及非常可以理解的焦慮。

這些模型可以幫助人們發現新知識：新藥物、更好的醫療保健、更強大的教育，並建立更具生產力的經濟。它們可以成為人們追求目前看似遙不可及的夢想和抱負的新工具。對於普通人來說，生活的複雜性急劇增加。AI 既可以是對抗這種複雜性的防禦工具，也可以是前所未有的發現和創新工具。

另一方面，隨著 AI 系統變得更加強大和自主，它們可能會比我們的制度發展得更快，將權力集中在少數人手中，或者做出人們不再理解或控制的決策。當我們接近可以自我改進和改進未來版本的系統時，這種擔憂變得尤為重要，這通常被稱為遞歸式自我改進。

隨著建造 AI 的過程變得更加自動化，AI 進步的速度可能會迅速加快。這個時刻需要極度的謹慎。我基本上同意 Bengio 教授的觀點。儘管我會說兩種而不是三種，我相信 AI 進步有兩種可能非常糟糕的發展方向，我們必須避免。

首先，我們可能會將未來的主導權拱手讓給 AI。風險在於它發展得太快，以至於人們無法跟上正在發生的事情，也無法在需要時進行干預。這顯然會很糟糕。業界絕不能僅僅因為利益巨大且感覺太重要而不能放慢速度，就接受過多的技術風險。

在競爭中擊敗其他公司並不是做出倉促決策的理由。我們也不認為我們被鎖定在一場無法這樣做的競賽中。我們過去曾單方面放慢速度。未來我們也會這樣做。我們不想建造，我們認為每個人都必須避免建造，我們無法做出必要的對齊、可監控性和安全保證的系統。

我們需要了解這些系統正在做什麼，並有充分的證據表明它們會按照人們的意圖行事，即使它們變得非常非常聰明。實際上，尤其是在它們變得非常非常聰明的時候。無論人們將災難的風險設定為 10%、1%、12% 還是 0.1%，這些水平都絕不可接受。我們不應該訓練那些我們無法極力證明能夠保持在人類控制之下的模型。

所以這是一種可能出錯的方式。另一方面，這些系統可能會將過多的權力集中在少數人手中。任何個人、公司或國家都不應該能夠使用最強大的 AI 模型將其世界觀強加給其他人。一個認為只有自己才能被信任擁有這項技術的公司或國家，可以用這種信念來為幾乎任何其他事情辯護。我們必須拒絕這種邏輯，即使它對任何一個參與者來說都很方便。

我相信有一條務實的道路可以同時解決這兩種情況。在 OpenAI，我們以一個明確的目標來處理這些問題：AI 應該賦予人們對自己生活更多的掌控權。更多的自由去過他們想要的生活。更多的能力去解決大大小小的問題，並改善他們的社區。我們不想陷入盲目樂觀的陷阱。

我們也不想陷入悲觀主義的陷阱。被拉向任何一個極端都無助於我們成功解決面前的挑戰，尤其是在世界及其人民面臨如此巨大挑戰，而這項技術可以幫助解決的時候。所以我們試圖在這兩個極端之間走中間道路。

對我們來說，這意味著三個原則。首先，隨著 AI 能力的提升，人們必須始終處於 AI 決策的中心。對齊不是一個抽象的研究問題。它是確保這些系統可靠地保持在人類控制之下，反映人類價值觀，並幫助人們引導下一階段發展的工作。我們不試圖，也絕不能，自動化人類的判斷或人類的價值觀。

其次，科學進步和經濟增長的好處必須由人創造並為人服務。AI 應該幫助研究人員進行發現，醫生治療病人，教師教導學生，企業家創辦公司，社區解決曾經遙不可及的問題，以及更多。人類進步的持續故事並非工具取代人類自主權。而是正確的工具使人更有能力，我相信這將遠超我們認為可能實現的程度。

第三，這項技術必須賦予個人權力。一個美好的未來將來自於人們實現他們的潛力，並為自己、他們的社區、他們的國家和更廣闊的世界創造價值。我們可能是這項技術的建造者之一，但我們不是這個故事的英雄。我們的角色是賦予世界各地的人們權力，並相信人類技能和能力的魔力。

我們現在擁有的模型能夠發現前所未有的知識。想想我們在數學方面取得的進展。三年前的夏天，我們的模型在小學數學方面表現尚可。兩年前的夏天，它們在高中數學競賽中表現相當不錯。去年夏天，我們在最負盛名的國際數學競賽中達到了金牌水平。而就在今年夏天幾週前，我們的一個模型解決了千禧年大獎難題之一，納維-斯托克斯方程組。

這些方程組用於飛機設計、天氣預報和血液流動研究。我們解決數學問題並非為了問題本身，而是為了賦予人們發現新知識的能力，並利用這些知識改善醫療保健、提高生活水平，以及擴展世界各地每個人的潛力。還有太多有待發現。

但非常重要的是，公司不能取代民主進程。如果 AI 要民主化，最重要的決策不能僅由舊金山的實驗室做出。它們必須通過民主進程，並由對其服務的人民負責的政府來塑造。在國際層面，這將需要合作。

在我們的歷史上，曾有過這樣的時候，即使相互競爭且不甚喜歡的國家，面對一項強大的新技術，仍然會為了共同利益和集體福祉而團結起來。我們相信這必須是其中一個時刻。我們需要一個機制來制定互補的國家和國際前沿 AI 標準：衡量能力、評估風險、確定保障措施是否足夠，並在系統變得更加自主時保持有意義的人類監督的標準。

我們需要共同的標準，以便各國能夠比較證據、驗證合規性，並對正在發生的事情有共同的語言和理解。我們需要準確快速的事件報告、分類和報告協議，以便世界能夠在失敗演變成災難之前從中學習。我們還需要政府、關鍵基礎設施運營商和技術專家之間建立安全的溝通渠道，以分享新出現的漏洞和新威脅。

顯然，這些標準不應鎖定現有企業或偏袒某種商業模式。它們必須支持開放和封閉模型開發者、新進入者和老牌實驗室、國家權威和國際合作。每個政府都應該決定如何將標準納入其自身的法律體系。但如果我們能夠就全球舞台上良好的證據、良好的保障措施和良好的監督達成共識，我們都會過得更好。

我們沒有所有的答案，我們非常樂意接受任何更好的想法。我們準備好與大家合作，並盡最大努力找出前進的道路。我們正處於一個十字路口。一條道路通向一個權力集中、決策不透明、人們覺得他們一生中最重要的技術是強加於他們的的世界。

另一條道路通向一個 AI 為人服務的世界，因為人們通過民主機構幫助決定 AI 應如何發展並引導它；科學進步改善真實生活；更多人可以參與未來；這項技術繼續賦予個人和社區更大的權力，讓他們選擇自己想要的生活。這是一個潛力實現、充滿興奮和奇蹟的未來。這也是我們認為值得建造的未來。非常感謝。