Google DeepMind 攜手新加坡政府，打造防詐 AI 模型

詐騙，例如投資詐欺、假工作機會和冒充公務員，佔新加坡通報犯罪的一半以上，自 2019 年以來已造成超過 40 億新幣的損失。同時，詐騙手法已從簡單的網路釣魚轉變為複雜的社交工程，攻擊者透過具說服力的對話來操縱受害者，然後要求金錢。這類詐騙現在佔所有損失的 80%。

為了解決這個問題，Google DeepMind 與新加坡政府科技局（GovTech Singapore）合作，作為我們與新加坡政府國家 AI 夥伴關係的一部分。我們共同微調了一個保護隱私、在裝置端運行的詐騙偵測模型。

通用模型通常難以應對當地的欺騙手法，使得詐騙偵測更加困難。為此，Google 輕量級的 Gemma 模型針對當地詐騙對話進行了微調。這些對話涵蓋了冒充公共機構、銀行和當地知名人士，以及流行的區域性詐騙計畫。這確保了微調後的模型在部署於公民安裝的應用程式中時，能夠區分良性的社交聊天和真正的操縱行為。

與依賴雲端伺服器端掃描訊息的傳統威脅偵測不同，這個模型可以直接在裝置端處理對話資料。當整合到應用程式中時，這將允許更快地分析對話模式，以偵測操縱意圖，並幫助公民在財務或憑證暴露之前採取行動。

該模型在應用程式中的推廣將與新加坡政府合作，謹慎分階段進行。部署後，模型只有在用戶同意並符合該應用程式的使用條款下，才能存取裝置上的對話。由於模型完全在裝置端運行，新加坡政府和 Google 都無法透過其部署來存取用戶的對話。

當模型偵測到操縱性的對話模式時，它會直接在用戶裝置上觸發即時警告，建議他們在分享敏感資訊或資金之前暫停並謹慎行事。在現代智慧型手機上運行複雜的詐騙分類模型並非易事，電池效率是一個關鍵的考量。為此，我們依賴兩階段的流程：

第一階段：一個輕量級、高效的分類器篩選傳入訊息，使用最少的電量，專注於捕捉潛在威脅。第二階段：使用我們微調過的 Gemma 模型進行情境分析，我們分析更大範圍的對話快照，以確認威脅或排除誤報。

這項合作在新加坡國際網路週（SICW 2026）上發表，為訊息平台在平衡用戶保護與端到端加密方面提供了一個模型。在整個開發過程中，我們都維持了嚴格的治理：

主權沙盒：微調在 GovTech Singapore 管理和維護的 GCP 環境中進行，使訓練資料保持隔離。無公民資料：訓練嚴格排除私人或個人身份識別資訊，利用來自詐騙報告和情報來源的匿名資料集。壓力測試：模型針對合成對話和當地語料庫進行測試，以涵蓋多樣的詐騙類別和不斷演變的冒充策略。

這個專案展示了 AI 如何在不損害安全或隱私的情況下幫助打擊犯罪。它也顯示了政府和模型供應商如何合作為公共利益開發技術。透過這個輕量級的裝置端模型，我們證明了實現本地、即時詐騙偵測的能力，同時確保聊天互動的安全性。我們期待很快分享更多與新加坡政府的合作成果，並探索在其他國家部署類似技術的潛力。