各國政府正開始將尖端 AI 系統應用於日益重要的工作,包括國家安全領域。這使得 AI 實驗室、政府和公民社會必須共同合作,探討如何在敏感環境中使用這些工具。
我們相信民主社會應能利用 AI 保護人民、防禦關鍵基礎設施、提供公共服務,並應對新興威脅,尤其是在網路防禦和生物安全等 AI 能顯著增強防禦能力的領域。然而,功能日益強大的 AI 系統必須以強化民主問責、有意義的人類判斷和法治的方式部署,並應鞏固民主制度而非集中權力。
OpenAI 正式發布其國家安全原則,闡明如何與各國政府合作,將 AI 系統應用於國防與公共服務。這些原則強調 AI 部署必須強化民主問責、人類判斷與法治,並明確限制其用於大規模監控或自主武器系統。OpenAI 承諾將擴大與美國及其盟友在網路防禦和生物安全領域的合作,並支持相關立法以建立保障措施。

各國政府正開始將尖端 AI 系統應用於日益重要的工作,包括國家安全領域。這使得 AI 實驗室、政府和公民社會必須共同合作,探討如何在敏感環境中使用這些工具。
我們相信民主社會應能利用 AI 保護人民、防禦關鍵基礎設施、提供公共服務,並應對新興威脅,尤其是在網路防禦和生物安全等 AI 能顯著增強防禦能力的領域。然而,功能日益強大的 AI 系統必須以強化民主問責、有意義的人類判斷和法治的方式部署,並應鞏固民主制度而非集中權力。
今天,我們發布 OpenAI 的國家安全原則,以透明化我們如何處理政府合作以及國家安全領域對我們技術的應用。這些原則反映了公司內部跨部門的努力,旨在隨著技術不斷進步,為我們在國家安全和執法領域的工作制定更全面的方針。
我們邀請了領先的國家安全專家 David Kris 協助推動此過程並提供獨立判斷,並在公司內部舉辦了多場意見交流會,讓來自研究、安全、政策和政府合作等不同團隊的員工參與。
我們現在發布這些原則,正值我們擴大與美國政府及盟友在關鍵防禦領域的合作,特別是網路和生物安全。在過去一個月,作為我們 Daybreak 網路防禦計畫的一部分,我們已與澳洲、加拿大、日本、韓國、法國、德國、波蘭、荷蘭以及 ENISA 等歐盟機構建立了「網路信任存取合作夥伴關係」。
我們也與英國政府在網路安全、測試和評估方面建立了日益增長的信任合作關係。我們在生物安全領域也採取類似做法。上個月,我們還宣布擴大 GPT-Rosalind 模型對特定美國政府及盟友合作夥伴的信任存取,以支援公共衛生和生物防禦任務。
這些原則適用於我們當前和未來的國家安全及執法合作夥伴關係,包括我們與美國國防部現有的合作。今年稍早我們宣布協議時,曾闡明幾項合約限制:不將 OpenAI 技術用於大規模國內監控、不將 OpenAI 技術用於指揮自主武器系統,以及不將 OpenAI 技術用於高風險自動化決策。這些限制與我們今天分享的原則保持一致。
我們認為,明確說明我們的技術可以和不能如何使用,並保持透明是正確的做法。然而,許多關於 AI 在政府,特別是國家安全領域中最具影響力的問題,應透過民主程序來解答。像我們這樣的公司職責是協助提供資訊以供決策,而非獨自做出決定。
這就是為什麼我們支持立法努力,為 AI 在軍事領域的一些最高風險應用建立保障措施,包括國內監控、自主武器系統以及其他直接影響美國國家安全的高風險用途。
覺得值得一看?分享給朋友。
以上為 AI 自動翻譯導讀。原文版權歸 OpenAI Blog 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。
43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。