OpenAI-Hugging Face 事件是資安領域的一個分水嶺，它讓我們得以一窺未來幾個月內，一般威脅行為者的能力將如何演變。過去幾週我與許多組織交流，發現一個明確的主題：他們知道必須以前所未有的速度，從根本上提升其資安實踐。

在這篇文章中，我將分享 OpenAI 為自我防禦所做的努力、其他組織現在可以採取的具體步驟，以及為何現在是採取行動的時機。

全球開發的 AI 模型越來越能自動化真實世界網路攻擊的部分環節，這使得長期存在的安全漏洞，從深藏於人工編寫軟體中的錯誤到被遺忘的權限，更容易被發現和利用。同樣的 AI 能力也為防禦者提供了新的方法來發現並修復這些弱點，但他們必須立即行動。

如果企業果斷採取行動，包括改善其基本功並利用 AI 賦能團隊，我們就能讓網路比以往任何時候都更加安全。

在 OpenAI-Hugging Face 事件中，一個自主運作的代理集體不僅成功滲透了 OpenAI 的研究基礎設施，還入侵了另一家公司的生產基礎設施。他們串聯利用了從先前未知安全漏洞到使用已洩漏到網路上的使用者帳戶憑證等多種弱點。

越來越清楚的是，每家公司的技術債都掩蓋了重大的缺陷，防禦者需要在攻擊者發現並利用它們之前，找到並修復這些缺陷。

為了讓防禦者相對於攻擊者佔據優勢，我們在今年稍早開始僅向受信任的防禦者發布我們的網路安全能力。從那時起，許多公司也發布了開源模型，其網路安全能力僅落後於前沿幾個月。

其中最新的模型似乎預計在八月底發布，這很可能會顯著加速威脅情勢的演變。

雖然 AI 驅動的攻擊者很快就能在許多現有系統中找到長期存在的缺陷，但 AI 也將使防禦者更容易找到、優先處理並修復這些相同的缺陷。資安仍然是一場貓捉老鼠的遊戲，但 AI 可能會以根本上有利於防禦者的方式改變其經濟效益。

例如，我們正開始訓練我們的模型專門編寫超人類安全的程式碼。我們的模型在數學證明方面也表現出色，這可以用於正式驗證軟體的安全性，而這對人類來說已被證明是難以解決的問題。

在 OpenAI-Hugging Face 事件之後，我使用 ChatGPT Work（公開可用的 GPT-5.6 Sol）評估了 gregbrockman.com 的安全性。這是一個簡單的靜態網站，託管在 AWS 上並以 Cloudflare 作為前端，所以我認為不會有太多漏洞攻擊面。

大約 15 分鐘內，它發現了 13 個問題，其中許多問題本身可能無法被利用，但我可以想像它們與其他漏洞串聯起來會產生重大影響。我沒有配置我的 DNS 記錄以防止攻擊者偽造我的電子郵件；我的網站使用了不安全的 jQuery 版本；Cloudflare 將請求透過未加密的 HTTP 轉發到 AWS。

然後我要求 ChatGPT Work 修復這些問題，它在一個小時內完成了。它在我的瀏覽器中打開了 Cloudflare 控制面板，並點擊了許多按鈕來正確配置 DNS、TLS 和進階安全設定；它完全從網站中移除了 jQuery；它將我從 AWS 遷移到 Cloudflare Pages；它開始分階段推出 DMARC。

這僅僅是我的個人網站。這是一個小例子，說明我們現有的模型如何作為網路守護者運作，找到人類沒有時間或專業知識（它修復的許多設定我雖然模糊熟悉，但不會馬上知道正確的配置方式）處理的長尾問題，然後透過適當調整的部署計畫來修復它們。

Hugging Face 事件表明我們低估了 AI 模型在真實世界中的網路安全能力。我們正在相應地加強我們的安全要求，這反過來又為我們現有的安全研究和內部安全工作增添了更多緊迫性。

我將分享一些我們在此刻保護 OpenAI 的方法，希望能對其他組織有所幫助。為了保護 OpenAI，我們正大力投資於基礎控制，正確執行基本工作，並透過前沿情報來增強我們的防禦。這項策略有四大支柱。

首先，我們正在使用我們的模型來幫助保護我們的程式碼。Codex，包括我們的安全外掛程式，會驗證程式碼變更、識別漏洞，並幫助開發人員在部署前修復問題。我們的目標不是簡單地產生更多需要人工驗證的安全發現；而是要在程式碼發布前捕捉真實的漏洞，並縮短從發現問題到安全部署修復的路徑。

隨著我們持續訓練模型以產生越來越安全的程式碼，我們的目標是為新編寫的程式碼消除某些類型的軟體漏洞。

其次，我們正在讓我們的模型持續防禦我們的基礎設施。如今，我們幾乎所有初始安全警報都由情報進行分類，然後才通知人類。這有助於減少防禦者的繁重工作，改善回應時間，並讓人們將時間花在他們技能最能發揮作用的地方，判斷、決策和應用專業知識。

我們正越來越多地將這些偵測連結到有限的自動化回應，同時讓人們負責影響最大的決策。目標是確保我們能夠以機器速度偵測並回應安全問題。

第三，我們正在使用前沿情報持續列舉、探測和識別潛在的攻擊路徑。透過識別漏洞、錯誤配置、過度授權的身分或無意的信任邊界，我們能夠在攻擊者濫用這些漏洞之前迅速識別並關閉它們。

這使我們能夠持續評估、監控和測試我們產品、基礎設施和系統中的安全不變量，我們認為是真實的安全屬性。

最後，我們正在大規模地大力投資於基礎。我們持續投資於安全架構和控制，採用深度防禦和最小權限等策略，並設計需要多個獨立控制同時失效才能發生災難性事件的系統。

在 AI 的未來，網路隔離、工作負載強化、監控以及安全修補和部署等經典安全控制將比以往任何時候都更加重要。

時間至關重要，防禦者需要以極快的速度執行以下步驟。下面我將提到 OpenAI 的技術，但生態系統中也有許多競爭對手可供評估。重要的是將有能力的 AI 立即交到防禦者手中，而不是特定的工具。

獲得組織承諾與支持。 我們正經歷資安風險的快速變化，確保您的資安和工程組織獲得支持、合作夥伴關係和資源，以迅速應對這些風險。與您的團隊進行桌面演練，模擬這些攻擊可能如何在您的組織中顯現以及您將如何回應。

為您的資安團隊配備一個代理。 開始使用 Codex、Codex Security 外掛程式或其他有能力的代理式程式碼和資安工具。授予它經批准的存取權限，以存取您的資安團隊需要評估的程式碼庫、基礎設施配置和技術文件。不要等待全公司範圍的推廣，先從您最高優先級的系統開始。

為該代理配備資安專業知識。 從社群支援的技能開始，其中包括靜態分析、資安導向的程式碼審查、漏洞變體分析、軟體供應鏈風險和其他資安工作流程。然後圍繞您組織的架構、資安標準、威脅模型和應變手冊建立您自己的技能。

立即對您自己的系統執行資安評估。 優先評估面向網路的服務、身份驗證流程、基礎設施即程式碼、部署管道以及處理敏感資訊的系統。隨著您的團隊建立信心，擴大掃描範圍。處理您現有的漏洞積壓。

向您的代理提供來自程式碼掃描器、依賴項警報、資安工單、漏洞獎勵報告和先前評估的發現。要求它對這些發現進行分類，區分可利用的問題和雜訊，識別程式碼庫中其他相關漏洞，並建議首先修復什麼。

將資安審查直接整合到您的開發流程中。 使用代理在程式碼變更合併前進行審查，並在 CI 中執行資安檢查。尋找身份驗證錯誤、存取控制繞過、暴露的憑證、不安全的依賴項、不安全的預設值、擴大生產系統存取的變更以及其他漏洞。

讓代理協助修復它發現的問題。 對於已驗證的問題，要求它生成並驗證一個專注的修補程式、編寫回歸測試，並確認漏洞不再重現。對於重大變更保留人工審查，但消除識別真實問題與將安全修復方案提交給工程師之間不必要的延遲。

逐步自動化偵測分類。 不要一開始就試圖建立一個自主的資安營運中心。首先對一個儲存庫執行唯讀資安掃描，或者讓代理使用對您現有日誌的唯讀存取權限來審查先前已解決的警報。讓它總結證據並建議處理方式，同時由人類做出所有決策。隨著信心增長，轉向諮詢式拉取請求掃描，然後是即時警報分類，最後是自動關閉狹義定義的誤報。

在您需要之前準備好 AI 輔助的鑑識調查能力。 申請網路安全信任存取 (Trusted Access for Cyber)，並讓您的團隊獲准使用 GPT-Daybreak-Blue 進行授權的防禦工作，包括事件回應、偵測工程和惡意軟體分析。練習使用此功能分析日誌、遙測數據和安全警報。

實驗、舉辦駭客週並快速迭代。 我們將需要建立各種新工具，修改我們的工作方式，並提升每個人的能力以適應我們正在邁向的世界。鼓勵您的員工進行實驗，安排駭客週來建立新功能，並專注於快速迭代循環，以自動化問題的小部分。快速的增量進步會帶來複合的防禦成果，您可以隨著團隊信心的建立逐步擴大自主性。

沒有任何公司可以獨自完成這一切。我們請求 AI 實驗室、資安供應商、企業和維護者分享經過驗證的發現、修復和實用手冊，以便一個組織的發現能夠強化整個生態系統。

防禦者的機會之窗現在已經打開。在未來幾個月內，每個組織都需要開始顯著自動化其資安計畫以保持安全，資安社群必須緊急行動起來，定義工具、實踐和應變手冊，以便隨著 AI 的不斷進步，防禦者的力量能比攻擊者增長得更快。這將需要巨大且前所未有的努力，但如果我們團結一致，我們就能實現一個比以往任何時候都更安全的網路世界。