📰 핵심 요약

Pakistan Notice Helper는 파키스탄 현지 사기 메시지 문제를 해결하기 위해 개발된 소형 AI 보안 도구로, 개발자가 “Build Small” 해커톤 Backyard AI 트랙에서 완성했다. 파키스탄 사용자들은 은행, 택배사, 세무 기관, 통신사 또는 정부 부처를 사칭한 의심 메시지를 지속적으로 받아왔는데, 진위 판별 자체가 어려운 것이 아니라 링크를 클릭하거나 전화를 걸거나 OTP를 제공하거나 결제하기 전에 어떻게 해야 할지 모르는 것이 문제다. 이 도구는 ‘진위 판별기’가 아니라 위험 분류 도구다: 사용자가 텍스트나 스크린샷을 입력하면 시스템이 위험 등급 레이블, 간단한 설명, 경고 플래그, 그리고 안전한 다음 단계 권장 조치를 반환한다.

기술 아키텍처 측면에서 개발자는 초기에 더 큰 Qwen 모델을 테스트했으나, 최종적으로 Qwen3.5 4B Q8 양자화 버전을 채택해 llama.cpp를 통해 CUDA에서 실행하고, Modal 엔드포인트, Gradio Server, Hugging Face Space 자체 제작 프런트엔드를 연결했다. 전체 모델 규모는 해커톤 32B 상한보다 훨씬 낮으며, 텍스트와 스크린샷 이중 모달 처리 능력을 갖추고 있다. 고위험 사기 및 스크린샷 시나리오를 포함한 10개의 테스트 케이스 평가를 거쳐 전부 통과했다.

언어 지원은 핵심 제품 결정이었다: 파키스탄의 의심 메시지는 영어, 우르두어 또는 로마자 우르두어가 혼용되어 작성되는 경우가 많아, 도구가 두 언어를 모두 지원한다. 우르두어 모드로 전환하면 인터페이스가 자동으로 오른쪽에서 왼쪽 레이아웃으로 조정되고, 모델이 위험 레이블, 설명, 경고 플래그 및 권장 응답 초안을 포함한 완전한 평가 보고서를 우르두어로 생성하도록 요구한다. 도구가 감지하는 경고 신호로는 계정 동결 위협, OTP 또는 CNIC 신분 정보 요구, 의심스러운 결제 링크, 금융 기관이나 정부 부처를 사칭하는 행위 등이 있다.

💬 JudyAI Lab 관점

Pakistan Notice Helper가 해결하는 것은 ‘진위 판단’이라는 기술적 문제가 아니라 ‘다음에 어떻게 해야 할지 모르는’ 행동 공백이다. 이는 AI 보안 도구를 관찰할 때 정면으로 접근하는 시각을 거의 보지 못했던 부분이다.

이 사례에는 주목할 만한 몇 가지 설계 결정이 있다. 개발자가 32B 모델 상한을 포기하고 Qwen3.5 4B Q8 양자화 버전을 선택한 것은 성능과 배포 비용의 현실적인 절충이다. 더 중요한 것은 출력 설계다: 도구는 ‘참/거짓’ 이진 결론을 내리지 않고, 위험 등급과 경고 플래그에 더해 실행 가능한 다음 단계 권장 조치를 반환한다. 사용자가 결과를 받은 후 다음에 무엇을 해야 할지 알 수 있게 해 주며, 단순히 ‘이건 사기다’를 확인하는 것에 그치지 않는다. 언어 지원 역시 현지 상황에 직접 대응한다: 영어, 우르두어, 로마자 우르두어 혼용 인식, 언어 전환 후 인터페이스 자동 오른쪽에서 왼쪽 레이아웃 조정, 출력 보고서도 완전히 대상 언어로 생성된다. 세 가지 설계 포인트의 조합—출력 중심 행동 유도, 모델 규모의 현실적 절충, 언어 시나리오의 실제 커버리지—은 이 사례가 AI 빌더에게 제공하는 가장 직접적인 참고 지점이다.

다음에 AI 도구를 설계할 때, 먼저 한 가지 질문을 해볼 수 있다: 사용자가 결과를 얻은 후 다음 행동은 무엇인가? ‘다음 단계 권장 조치’를 출력 설계에 포함시키는 것이, 단순히 모델 정확도를 높이는 것보다 사용자의 실제 위험을 낮추는 데 더 효과적인 경우가 많다.

📅 원문 정보

🔗 더 읽기