📰 重點摘要

Pakistan Notice Helper 是一款針對巴基斯坦本地詐騙訊息問題開發的小型 AI 安全工具，由開發者在「Build Small」黑客松 Backyard AI 賽道中完成。巴基斯坦用戶長期收到偽裝成銀行、快遞公司、稅務機關、電信業者或政府部門的可疑訊息，辨別真偽本身並非難點，難的是在點擊連結、撥打電話、提供 OTP 或付款之前不知道該怎麼辦。這款工具並非「真偽鑑定器」，而是一個風險分類工具：使用者可輸入文字或截圖，系統會回傳風險等級標籤、簡短說明、可見的警示旗幟，以及安全的後續建議步驟。

技術架構上，開發者初期測試較大型的 Qwen 模型，最終採用 Qwen3.5 4B Q8 量化版本，透過 llama.cpp 在 CUDA 上運行，並串接 Modal endpoint、Gradio Server 以及 Hugging Face Space 自製前端，整體模型規模遠低於黑客松 32B 上限，同時具備文字與截圖雙模態處理能力。經過十個測試案例（含高風險詐騙與截圖情境）評估，全數通過。

語言支援是關鍵產品決策：巴基斯坦的可疑訊息常以英文、烏爾都語或羅馬烏爾都語混雜書寫，因此工具同時支援兩種語言，切換至烏爾都語模式後，介面會自動調整為從右至左排版，並要求模型以烏爾都語生成完整評估報告，包含風險標籤、解釋、警示旗幟與建議回應草稿。工具偵測的警示信號包括：帳號凍結威脅、索取 OTP 或 CNIC 身份資料、可疑付款連結，以及冒充金融機構或政府單位等行為。

💬 JudyAI Lab 觀點

Pakistan Notice Helper解決的不是「判斷真偽」這個技術問題，而是「不知道下一步該怎麼辦」這個行為缺口，這是我們觀察AI安全工具時很少看到被正面切入的視角。

這個案例有幾個值得注意的設計決策。開發者放棄32B模型上限，選用Qwen3.5 4B Q8量化版本，是效能與部署成本的務實取捨。更關鍵的是輸出設計：工具不給「真/假」二元結論，而是回傳風險等級、警示旗幟加上可操作的後續建議步驟，讓使用者在收到結果後知道接下來做什麼，而不只是確認「這是詐騙」。語言支援同樣直接回應在地場景：英文、烏爾都語、羅馬烏爾都語混雜辨識，切換語言後介面自動調整為從右至左排版，輸出報告也完整以目標語言生成。三個設計點組合起來——輸出導向行動、模型規模務實取捨、語言場景真實覆蓋——是這個案例給AI builder最直接的參考切入點。

下次設計AI工具時，我們可以先問一個問題：使用者在得到結果之後，下一個行動是什麼？把「後續建議步驟」納入輸出設計，往往比單純提升模型準確率更能降低使用者的實際風險。

📅 原文資訊

🔗 延伸閱讀