嗨,各位論壇成員,在過去一年中,我觀察到工程團隊越來越依賴 AI 程式碼代理(如 Cursor、Claude Code、Copilot)來撰寫對營收至關重要的邏輯,例如 Stripe 訂閱的按比例分配、週期中增加席位、多幣種帳本和稅務規則。問題在於,雖然大型語言模型能快速撰寫這些程式碼,但它們經常在邊界條件上產生幻覺。
一個遺漏的向下取整或未處理的分數分位數除法,並不會在執行時拋出錯誤,它會在生產環境中正常運行,卻在數千筆交易中悄悄地洩漏營收。傳統的程式碼檢查工具僅檢查語法和已知的 CVE,而由同一個大型語言模型撰寫的單元測試也往往存在相同的盲點。我開發了 ProofEngine,旨在將形式驗證引入此工作流程,作為一個確定性的安全閘門。
這個管線的運作方式如下:首先是抽象語法樹(AST)和不變式提取。一個本機的命令列介面會解析 TypeScript/JavaScript 程式碼,提取分支控制流程路徑和內聯斷言,例如 // @proofengine:invariant total_credits + balance_due == expected_invoice_amount。
接著,中間表示(IR)會轉換為 SMT-LIB2 格式。引擎會將變數賦值、整數邊界和條件編譯成標準 SMT-LIB2 格式的一階邏輯約束。然後是 Z3 求解器分派,我們會否定不變式並查詢 Z3 SMT 定理證明器。
如果結果是 UNSAT,表示該否定在數學上是不可能的,不變式在所有可達狀態下都成立,引擎會發出一個簽署的證明代幣。如果結果是 SAT,則存在一個反例,Z3 會在不到 600 毫秒內輸出確切的失敗輸入,例如 remainingDays: 1, seats: 4, drift: -4 cents,以便 AI 代理或工程師可以自行修復計算。
我們也透過 Model Context Protocol (MCP) 伺服器公開了這項功能,讓 Cursor 代理可以在宣告帳務任務完成之前,自主地查詢求解器。程式碼庫和工作工作室都已上線。
我很樂意收到關於以下方面的回饋:我們針對多幣種取整和銀行家取整的 SMT-LIB2 約束公式。當控制流程分支爆炸時,如何處理求解器超時邊界。以及您發現使用標準測試套件最難以強制執行的特定財務或帳本不變式。