人工智慧（AI）正在改變民主政府保護人民的方式。它能協助阻止網路攻擊、確保關鍵基礎設施安全、更早偵測威脅，並在危機中為公務員提供更清晰的全局觀。若運用得當，這些工具可以強化國家安全。

民主監督有助於確保公共權力的行使對其服務的人民負責。隨著AI使國家安全工作變得更快、更具能力，負責監督這些工作的機構也需要跟上腳步。AI可能根據缺失或過時的背景、錯誤配置的目標或不符的假設，以極快的速度和規模採取行動，使得錯誤在擴散前更難以手動偵測。在國家安全領域使用AI時，監督尤為重要，因為相關決策可能涉及機密，並可能帶來高風險的後果。

秉持著我們的國家安全原則，我們在部署國家安全應用時，會採取保障措施、納入有意義的人類判斷，並進行適當的監督，尤其是在高風險情境下。這些原則也將協助負責監督的機構，建立以速度和規模監督AI使用的能力，列為優先事項。

確保監督能跟上AI的採用速度。政府機構已具備監督國家安全活動的既定權限和職責。當AI參與這些活動時，監督方式可能需要演進。傳統監督是勞力密集型工作，當要求使用紙本時代方法的少數團隊，審查以機器速度運作的系統時，幾乎變得不可能。

OpenAI 認為，能力越強大的系統需要越嚴格的監督，我們也將此原則應用於自身。根據我們的「準備框架」（Preparedness Framework），先進模型在部署前會經過嚴格審查，以了解其能力並判斷保障措施是否足夠。這種審查在部署後仍會持續，透過持續監控和事件審查，我們所學到的經驗將用於強化保障措施和未來的模型開發。

OpenAI 不會也不應該對政府行使監督職責。這項責任屬於民選官員和為此目的而設立的公共機構。相反地，我們可以在監督機構履行其現有職責時，以我們的技術提供支援。

這項工作將遵循三項原則。首先，AI應強化而非取代人類和機構的判斷。關於政府行為是否合法、適當並符合適用法規和政策的決定，應由授權機構和合法成立的監督機構負責。

其次，政府使用AI應可供授權監督追溯和理解。審查人員應能了解AI如何促成某項決策，同時保護機密、私人和安全敏感資訊。

第三，AI應被用於賦能民主監督機構。政府中AI使用的手動監督無法擴展。隨著AI在國家安全和其他高風險政府工作中被採用，監督機構也應根據其職責，以負責任且可理解的方式使用AI。

OpenAI 將採取哪些行動。在未來一年，我們計劃透過以下方式推進這項倡議：我們將與授權官員合作，找出AI工具或技術支援能使監督更有效的實際機會。

我們將向民主政府監督機構提供價值500萬美元的培訓、技術支援和OpenAI點數，以支持AI工具的負責任採用和評估。

我們將與監督機構合作，試行工具以協助授權審查人員檢視AI輔助政府決策的相關記錄，包括相關輸入、輸出和工具使用情況，以便更好地理解AI如何影響結果。在可行情況下，這些工具將具備互通性或模型無關性。參與機構而非OpenAI，將保留對證據、輸出和調查結果的控制權，這些資訊將僅供授權的政府官員使用。

我們將與公民社會和技術專家合作，讓他們的觀點能影響OpenAI如何開發這些工具，以及如何處理隨之而來的責任。

我們面臨的選擇。AI可以集中權力，也可以幫助民主機構更有效地行使和制衡權力。單靠技術本身無法決定我們將迎來哪種未來，但人類機構和公司現在所做的選擇將會決定。

我們將根據授權審查人員是否能更好地履行職責，以及公眾是否有更充分的理由相信政府AI系統正按預期使用，來評估這項倡議的進展。隨著政府AI應用的發展，OpenAI將持續支持負責監督的機構。