跳到主要內容
maxstudioNews
研究Google DeepMind約 4 分鐘

Google DeepMind 發表 AlphaProof Code:AI 深度驗證 Signal 加密協定,軟體安全新突破

Google DeepMind 推出 AlphaProof Code,這是一個結合人類專業知識與 AI 代理的創新框架,能以前所未有的深度進行形式驗證。研究人員首次成功引導 AI 代理,以數學方式證明了 Signal 加密協定實際程式碼的關鍵安全屬性。這項突破性進展大幅提升了軟體安全標準,解決了長期以來被視為重大挑戰的難題。

Google DeepMind 發表 AlphaProof Code:AI 深度驗證 Signal 加密協定,軟體安全新突破
圖片來源:Google DeepMind

Google DeepMind 研究人員成功開發出一個新的代理框架,首次對 Signal 加密協定的程式碼進行了形式驗證,這項工作長期以來被視為一項重大的安全挑戰。今天,我們宣布在軟體安全領域取得了一項里程碑式的成就。Google DeepMind 的研究人員引導 AI 代理,以數學方式證明了 Signal 協定(保護 Signal 和 Google Messages 等應用程式中數十億次私人對話的技術)底層實際程式碼的關鍵安全屬性。

這項突破性的發現是透過 AlphaProof Code 實現的,這是一個結合人類專業知識與 AI 代理的創新代理框架,能以前所未有的深度進行形式驗證。形式驗證,即以數學方式證明程式碼正確無誤地運行,是最高的安全保證標準,但它通常既困難又耗費大量人力。

我們的工作標誌著 AI 首次被用於如此深度地形式驗證廣泛部署的加密協定。這也是首次有任何方法,無論是否使用 AI,對如此廣泛部署的協定實作進行形式驗證。

AlphaProof Code 是一個多 LLM 代理框架,它將形式驗證的工作像研究團隊一樣分工:人類專家與 AI 協作決定要證明什麼,然後由一群 AI 代理來執行證明。首先,我們的研究人員與多種模型合作,將 Signal 的安全目標轉化為形式化的數學規範,並由人類專家審查每一項。

接著,由 Gemini Carbon 驅動的代理執行證明,產生了超過六百萬行的 Lean 程式碼,這是一種能以數學方式證明程式碼準確性的電腦語言。

接下來,這些代理審核了證明,並標示出需要人類再次檢查的區域,這僅佔程式碼庫的百分之一,大幅節省了時間。由於 Lean 會自動檢查其餘部分,我們的專家可以將審查重點放在人類判斷最關鍵的地方。加密協定是幾乎所有數位通訊的基礎,從網路銀行到網頁瀏覽,單一漏洞就可能同時暴露數百萬人的資訊。這也是專家們數十年來一直致力於對其進行形式分析的原因。

然而,大多數協定驗證都停留在設計層面。我們的代理更進一步,證明了編譯後的程式碼確實符合關鍵安全屬性,例如在裝置暫時受損前後仍能保護訊息,驗證範圍精確到裝置上運行的實際程式碼。由於現實世界的漏洞通常隱藏在設計與實作之間的鴻溝中,彌補這一鴻溝使得這些證明變得更加複雜。

即使面對如此複雜性,我們的驗證過程僅耗時四週,這項任務在過去需要專家團隊花費數年時間才能完成,證明了 Signal 的核心加密程式碼確實提供了我們的專家所指定的安全保護。為了確認 AlphaProof Code 能夠區分正確與有缺陷的程式碼,我們將兩個真實且先前已修復的錯誤重新引入到 Signal 程式碼的獨立版本中。在這兩種情況下,系統都產生了機器驗證的證明,表明有缺陷的版本是不安全的。

在 AlphaProof Code 中,AI 代理協助使用者撰寫規範,然後自主證明實作符合該規範。每個證明都由 Lean 進行檢查,以驗證代理的工作。雖然先前形式驗證的工作必然集中在較小的範圍,但這種新方法實現了顯著的擴展。傳統上,驗證生產程式碼是否嚴格符合其加密設計需要大量的手動工作,因此利用 AI 代理自動將即時程式碼轉換為有效的 Lean 定理是一項巨大突破。

隨著 AI 驅動的安全威脅日益增長,透過自動定理證明嚴格驗證核心 Signal 協定,讓我們對程式碼的隱私保證更有信心。

實現這項長期挑戰,證明了 AI 如何能為企業、政府和關鍵基礎設施帶來頂級的安全保證,協助抵禦代理驅動的網路威脅。驗證 Signal 的核心加密技術,為保護其他重要系統奠定了基礎,從醫療設備韌體到電網軟體。擴展這些技術需要持續的研究。結合 CodeMender 等自動防禦代理,形式驗證可以幫助應對現代網路威脅的速度和規模,以數學證明其保護措施有效,從而創建更安全的軟體。

我們正在開源我們的形式驗證成果,供社群使用。請參閱下方的技術論文。這項研究由 Swarat Chaudhuri、Andrew Ferraiuolo、Anton Kovsharov、Tej Chajed、Sam Schlesinger、Karn Seth、Jonathan Katz、Charles Sutton 和 Pushmeet Kohli 開發。

我們感謝 Eric Wieser 協助開源程式碼,Owen Jones 提供專案管理支援,以及 Martín Abadi、Christopher Henson、Katerina Hristova、Henryk Michalewski、Jonathan Protzenko 和 George Tsoukalas 提供的有益討論。

我們感謝 Signal 的 Rolfe Schmidt、Michael Rosenberg 和 Ehren Kret 對我們方法的反饋。我們也感謝 Tulsee Doshi、Four Flynn、Kate Olszewska、Alicia Huang、Andy Liu、Benoit Schillings、Raluca Ada Popa、Melvin Johnson、Koray Kavukcuoglu、Demis Hassabis 和 Sundar Pichai 對本專案的支持。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 Google DeepMind 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。