📰 핵심 요약

Apate.ai는 2024년에 설립된 호주 스타트업으로, 시드니 맥쿼리 대학의 연구에서 출발했다. 핵심 방식은 대량의 AI 에이전트를 사기 피해자로 위장시켜 사기 집단과 직접 상호작용하게 하는 것이다. 이 AI 에이전트들은 사기 전화를 받고, 의심스러운 메시지와 이메일에 답장하고, 피싱 링크를 클릭하며, 심지어 소셜 미디어 그룹에 가입해 사기범을 유인한다. 이들은 다양한 연령, 성별, 억양의 인물을 흉내 낼 수 있고 여러 언어로 대화할 수 있는데, 목적은 사기범과의 상호작용 시간을 최대한 늘려 정보를 얻어내는 것이다.

회사 측에 따르면, 자사 AI 에이전트는 현재까지 250만 회의 대화를 통해 사기 집단의 시간을 총 17년이나 소모시켰다. Apate의 고객(은행, 통신사, 정부 기관, 공공 사업체)에게 더 중요한 것은, 이 위장 AI 에이전트들이 사기범을 유도해 평소에는 피해자가 실제로 사기를 당한 후에야 드러나는 정보—은행 계좌, 암호화폐 지갑 주소, 전화번호, 악성 웹사이트, 도용된 브랜드명, 그리고 사기 수법의 기타 세부 사항—을 누설하게 만든다는 점이다. Apate는 이 정보를 고객에게 제공해 사기 방지 조치를 강화하는 데 활용한다.

기사에 따르면 AI는 사기 및 해킹 활동의 규모를 크게 키웠다. 미국 연방수사국(FBI)은 2025년 AI 관련 범죄 신고를 22,000건 이상 접수했으며, 이로 인한 피해액은 약 8억 9,300만 달러에 달했다. 그중 6억 3,200만 달러 이상이 투자 사기에서 발생했으며, 사기범들은 AI를 활용해 대화하고 유명인이나 고위 경영진 등 신뢰할 만한 인물의 음성과 외모를 딥페이크로 만들어냈다.

Apate의 창업자 겸 CEO인 Dali Kaafar는 실제로 겪은 사기 전화 경험에서 영감을 얻었다. 그는 한 번 일부러 모르는 척하며 사기범을 44분간 붙잡아두었는데, 이 경험을 계기로 이러한 행동을 자동화해 정보를 수집한다는 아이디어를 떠올렸고, 결국 맥쿼리 대학의 연구 프로젝트로 발전시켰다. 이 회사는 올해 TechCrunch Disrupt 창업 경진대회 Startup Battlefield 200의 결선 진출팀 중 하나이다.

💬 JudyAI Lab 관점

Apate.ai는 AI 에이전트를 사기 피해자로 위장시켜 사기 전화를 직접 받고, 의심스러운 메시지에 답장하고, 소셜 그룹에 가입해 사기범을 유인한다. 250만 회의 대화를 통해 사기 집단이 누적 17년의 시간을 소모하게 만든 이 “AI로 AI를 상대하는” 방어 방식은 주목할 만하다.

이 사례는 하나의 전환을 보여준다. 과거의 사기 방지는 대부분 사후 탐지와 경고 위주였지만, Apate는 AI 에이전트를 능동적인 유인용 미끼로 바꿔놓았다. 다양한 연령, 성별, 억양, 심지어 여러 언어를 흉내 내게 함으로써, 목적은 사기임을 즉시 간파하는 것이 아니라 대화를 최대한 길게 끌어 구조적인 정보—은행 계좌, 암호화폐 지갑 주소, 사기 수법의 세부 사항—를 얻어내는 것이다. FBI 자료에 따르면 2025년 AI 관련 범죄 신고는 22,000건을 넘었고 피해액은 약 8억 9,300만 달러에 달했으며, 그중 투자 사기가 가장 큰 비중을 차지했다. 사기범들 역시 AI를 활용해 딥페이크 음성과 외모로 피해자의 신뢰를 얻고 있다. 공격과 방어 양측 모두 AI를 규모 확장의 도구로 삼게 되면서, 설계의 초점은 “한 번의 판단으로 진위를 가르는 것"에서 “대화 길이로 정보를 교환하는 것"으로 옮겨가고 있다.

AI 빌더에게 이 사례는 하나의 확장 가능한 방향을 제시한다. AI 에이전트를 평가할 때 답변의 정확도만 볼 것이 아니라, 얼마나 오래 상호작용을 유지할 수 있는지, 그 과정에서 무엇을 수집할 수 있는지도 함께 살펴볼 수 있다는 것이다.

📅 원문 정보

🔗 더 읽어보기