跳到主要內容
maxstudioNews
產品Cursor Forum (Showcase)約 2 分鐘

ProofEngine:以 Z3 SMT 求解器確保 AI 撰寫帳務程式碼的正確性

近年來,工程團隊日益依賴 AI 程式碼生成工具來撰寫關鍵的營收邏輯,然而大型語言模型在處理邊界條件時常產生幻覺,導致潛在的營收損失。為了解決這個問題,ProofEngine 導入形式驗證,利用 Z3 SMT 求解器自動檢查 AI 生成的帳務程式碼,確保其邏輯正確性並找出錯誤輸入。

ProofEngine:以 Z3 SMT 求解器確保 AI 撰寫帳務程式碼的正確性
圖片來源:Cursor Forum (Showcase)

嗨,各位論壇成員,在過去一年中,我觀察到工程團隊越來越依賴 AI 程式碼代理(如 Cursor、Claude Code、Copilot)來撰寫對營收至關重要的邏輯,例如 Stripe 訂閱的按比例分配、週期中增加席位、多幣種帳本和稅務規則。問題在於,雖然大型語言模型能快速撰寫這些程式碼,但它們經常在邊界條件上產生幻覺。

一個遺漏的向下取整或未處理的分數分位數除法,並不會在執行時拋出錯誤,它會在生產環境中正常運行,卻在數千筆交易中悄悄地洩漏營收。傳統的程式碼檢查工具僅檢查語法和已知的 CVE,而由同一個大型語言模型撰寫的單元測試也往往存在相同的盲點。我開發了 ProofEngine,旨在將形式驗證引入此工作流程,作為一個確定性的安全閘門。

這個管線的運作方式如下:首先是抽象語法樹(AST)和不變式提取。一個本機的命令列介面會解析 TypeScript/JavaScript 程式碼,提取分支控制流程路徑和內聯斷言,例如 // @proofengine:invariant total_credits + balance_due == expected_invoice_amount。

接著,中間表示(IR)會轉換為 SMT-LIB2 格式。引擎會將變數賦值、整數邊界和條件編譯成標準 SMT-LIB2 格式的一階邏輯約束。然後是 Z3 求解器分派,我們會否定不變式並查詢 Z3 SMT 定理證明器。

如果結果是 UNSAT,表示該否定在數學上是不可能的,不變式在所有可達狀態下都成立,引擎會發出一個簽署的證明代幣。如果結果是 SAT,則存在一個反例,Z3 會在不到 600 毫秒內輸出確切的失敗輸入,例如 remainingDays: 1, seats: 4, drift: -4 cents,以便 AI 代理或工程師可以自行修復計算。

我們也透過 Model Context Protocol (MCP) 伺服器公開了這項功能,讓 Cursor 代理可以在宣告帳務任務完成之前,自主地查詢求解器。程式碼庫和工作工作室都已上線。

我很樂意收到關於以下方面的回饋:我們針對多幣種取整和銀行家取整的 SMT-LIB2 約束公式。當控制流程分支爆炸時,如何處理求解器超時邊界。以及您發現使用標準測試套件最難以強制執行的特定財務或帳本不變式。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 Cursor Forum (Showcase) 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。