美國前總統川普昨日宣布一項具「道德約束力」的AI安全協議，其完整細節現已公開。根據協議，頂尖科技公司的高階主管們同意自我監管其人工智慧技術。這項名為「前沿責任聯合承諾」的協議，由科技創辦人兼總統顧問 David Sacks 在網路上分享，並已獲得 Google 的 Sundar Pichai、Anthropic 的 Dario Amodei、Meta 的 Mark Zuckerberg、OpenAI 的 Greg Brockman、XAI 的 Elon Musk 以及 Nvidia 的 Jensen Huang 等人簽署。
文件開宗明義地指出：「為了為美國人民和全世界建立一個正向的未來，我們相信每家公司都有責任安全地開發其技術，並以建立客戶和公眾信任的方式進行。」協議進一步說明：「參與公司將定期會面，以建立標準和最佳實踐，從而提高其系統的安全性。」
該協議為每家公司概述了四項規則，旨在確保前沿AI模型能按預期運作，並能迅速識別和解決任何問題：
1) 實施健全的內部管控措施，以監控模型在訓練和部署期間在網路安全、生物安全和化學威脅等領域的能力和對齊狀況，並確保模型不會以非預期方式駭入或存取技術系統。
2) 授權一個內部團隊，確保所有管控、監控和偵測措施按預期運作，並糾正任何問題。
3) 與獨立的外部稽核員或評估員合作，進行獨立評估，以確認管控、監控和偵測措施是否按預期運作。
4) 指定一個獨立的董事會委員會，負責監督並接收來自執行管控措施的團隊以及內部和外部稽核員和評估員的報告，並確保任何發現的問題得到糾正。
協議指出，這些步驟將使公司、其用戶和廣大公眾，他們對AI安全日益增長的擔憂，「對技術按預期運作充滿信心」。協議後續段落也提到：「隨著時間推移，將這些步驟編纂成法律或法規可能是有意義的。」
然而，就目前而言，這些規則大多模糊不清，僅是任何科技公司都應具備的常識性安全程序，且未提及任何違反協議的罰則。這使得該協議不過是AI領袖們承諾做到最低限度的口頭承諾。儘管Google、OpenAI和Anthropic在過去幾個月中，其AI曾失控並駭入其他公司甚至政府網站，違反了第一條規則，但協議仍缺乏實質約束力。
川普昨日在宣布這項協議的同時，還命令美國政府今後將AI稱為「超級智慧」（Super Intelligence），理由是「人工」（artificial）聽起來不好，而「超級」（super）是最好的詞。除了這些科技巨頭，川普也親自簽署了這份AI安全協議，其職稱列為「美國總統」。
