📰 핵심 요약

AI 사기 방어 기술이 점점 더 다양한 형태로 등장하는 가운데, 호주 스타트업 Apate는 AI 봇을 훈련시켜 피해자인 척하며 사기 조직에 맞서고 있다. 창업자 Kaafar 교수에 따르면, 회사 소속 봇들은 2025년 말까지 6주 동안 단일 통신사 TPG를 대상으로만 60만 건의 사기 전화를 처리했으며, 이를 통해 사기 조직의 시간을 500일 이상 낭비시켜 약 1,300만 달러의 잠재적 손실을 절감한 것으로 추정된다. 사기꾼들의 시간을 소모시키는 것 외에도, 이 봇들의 또 다른 목표는 은행과 통신사를 위해 활용 가능한 정보를 수집하여 호주, 아시아, 아프리카, 영국과 유럽 등지의 사기 조직을 단속하는 데 도움을 주는 것이다. Kaafar는 이 아이디어가 2021년 11월 시드니에서 가족과 소풍을 즐기던 중 사기 전화를 받았던 경험에서 시작됐다고 밝혔다. 당시 그는 순진하게 속아 넘어가는 척하며 상대방을 44분 동안 통화에 붙잡아 두었는데, 그 과정에서 아이들은 즐거워했지만 아내는 화를 냈고, 동시에 사기 수법이 작동하는 방식도 파악할 수 있었다. 전화를 끊은 후 그는 재미로 한 일도 이 정도인데, 기술을 규모화하면 얼마나 큰 효과를 낼 수 있을지 생각하게 되었다. 당시 맥쿼리 대학교에서 교편을 잡고 있던 그는 AI와 정보보안을 연구하는 박사과정 학생 몇 명을 모아 자동화 시스템을 구축하기 시작했고, 이후 호주 국가정보국(National Intelligence Office)의 연구 지원을 받았다. 이 프로젝트는 2023년 대학에서 독립하여 Apate라는 회사로 설립되었으며, 현재는 호주 대부분의 대형 은행들과 협력하고 있고 영국, 남아프리카공화국, 동남아시아 여러 은행으로도 사업을 확장했다. Apate가 AI로 사기꾼을 유인하는 유일한 회사는 아니다. 영국 통신사 O2가 작년 선보인 ‘AI 할머니’ 캠페인은 반려묘 이야기를 화제로 삼아 사기꾼의 시간을 지연시키는 동시에 대중에게 경각심을 일깨우는 홍보 효과도 겸했지만, Apate의 운영 규모는 동종 업계를 훨씬 뛰어넘는다. Apate는 현재 억양과 말버릇 등 특징을 지닌 19만 7천 개의 AI 페르소나를 보유하고 있으며, 훈련 데이터는 인간이 사기꾼을 직접 유인한 수백 시간 분량의 실제 대화 녹음에서 얻은 것이다.

💬 JudyAI Lab 관점

Apate의 사례는 흥미롭다 — AI 봇을 피해자인 척 위장시켜 오히려 사기 조직의 시간과 자원을 붙잡아 두는 방식은, AI 방어를 단순히 ‘사기 전화를 수동적으로 감지하고 차단하는 것’에서 ‘공격자의 비용을 능동적으로 소모시키는 것’으로 전환하는 발상이다.

이 설계가 AI 빌더에게 주는 시사점은, 대립 상황에서 AI의 가치가 반드시 ‘적을 더 빨리 간파하는 것’에만 있지 않다는 점이다. 더 낮은 비용으로 상대방에게 더 높은 비용을 유발하는 것도 하나의 전략이 될 수 있다. Apate는 억양과 말버릇을 지닌 19만 7천 개의 AI 페르소나와 실제 유인 대화 녹음 훈련 데이터만으로, 단일 통신사에서 6주 만에 60만 건의 사기 전화를 처리하고 상대방의 시간을 500일 이상 낭비시켰다. 이러한 ‘비대칭 소모전’ 사고방식 — 인간이 원래 할 수 있지만 대규모로는 할 수 없었던 일을 AI로 규모화하는 것 — 은 사실 반사기뿐 아니라 다양한 방어형 시나리오에도 적용 가능하다.

독자들에게 남기고 싶은 생각의 방향은 이렇다: 다음에 AI 애플리케이션을 평가할 때, “원래는 인력으로만 소규모로 할 수 있던 일을, AI가 규모화해서 공수 우위로 바꿀 수 있는가"를 한번 고민해 보길 바란다.

📅 원문 정보

🔗 더 읽어보기