📰 重點摘要

Google DeepMind與新加坡政府科技局（GovTech Singapore）合作，針對詐騙偵測微調了一款輕量級Gemma模型，作為兩方「國家AI合作夥伴關係」計畫的一部分。背景是新加坡的詐騙案（如投資詐騙、假工作邀約、冒充公職人員）佔該國已報案件過半，自2019年以來造成逾40億新加坡幣損失；詐騙手法也從簡單的釣魚信轉向複雜的社會工程，攻擊者先用對話取信被害人再要求匯款，這類手法目前佔所有損失的高達80%。

這款模型的特點是完全在裝置端（on-device）運作而不經雲端伺服器掃描訊息。團隊用新加坡本地的詐騙對話樣本微調Gemma，涵蓋冒充公家機關、銀行、地方公眾人物，以及當地流行的詐騙手法,讓模型能分辨普通社交對話與真正的操弄意圖。偵測採兩階段流程：第一階段是輕量、低耗電的分類器先篩選所有來訊，捕捉潛在威脅;第二階段才用微調後的Gemma模型對更大段對話做情境分析，確認是否為真實威脅或排除誤判，以兼顧手機電池續航。

模型部署將與新加坡政府分階段合作推出，僅在使用者同意且符合應用程式使用條款下才能存取裝置端對話;由於模型完全在裝置上運行，新加坡政府與Google皆無法透過此部署讀取使用者的對話內容。偵測到操弄性對話模式時，會在使用者裝置上即時跳出警告，提醒用戶在分享敏感資訊或轉帳前先暫停並提高警覺。

💬 JudyAI Lab 觀點

Google DeepMind與新加坡政府科技局（GovTech Singapore）合作微調輕量級Gemma模型做詐騙偵測,這則新聞值得關注之處在於AI防詐騙技術首次做到完全裝置端運作,連政府跟Google都讀不到使用者對話內容。

對AI builder群體而言,這個案例反映出一個清楚的設計思維轉向:敏感場景的AI應用正在從「雲端算力優先」轉向「隱私優先、裝置端運算」。新加坡詐騙案已佔該國報案過半,社會工程手法(先建立信任再誘導轉帳)佔損失高達80%,這類攻擊單純規則比對難以攔截,需要語境理解。團隊採兩階段設計——低耗電分類器先篩選,再用微調模型做深度情境分析——兼顧偵測精度跟手機電池續航,這種「輕量把關+重模型複核」的分層架構,值得所有要在資源受限裝置上部署AI判斷的builder參考。

給讀者的行動方向:如果你正在設計任何涉及使用者私密對話的AI功能,不妨先問自己——這個判斷真的需要雲端嗎?

📅 原文資訊

🔗 延伸閱讀