📰 핵심 요약

구글이 이번 주 금요일, 「Outsider Enterprise」라는 중국 사이버 범죄 조직을 상대로 소송을 제기하고 해당 조직의 전체 범죄 인프라 해체를 요구한다고 발표했다. 구글의 주장에 따르면, 이 조직은 단 2주 만에 가짜 웹사이트 9,000개를 구축하고, 100만 개가 넘는 사기 도메인을 등록하며, Android 사용자에게 피싱 문자 250만 건을 발송했다. 그 중 5월 한 달에만 5만 5,000건이 사용자에 의해 신고되었으며, 이는 분당 두 건 이상에 해당한다.

Outsider Enterprise의 핵심은 「Outsider」라는 피싱 서비스형 소프트웨어(PhaaS)로, 주당 88달러 또는 월 200달러에 판매되며 기술적 배경 없이도 누구나 운용할 수 있다. 이 플랫폼은 구글 자사의 Gemini를 포함한 AI 도구를 활용해 가짜 웹사이트를 자동 생성하고, 통신사·금융기관·정부기관·유통업체 등의 브랜드를 사칭해 피해자가 비밀번호, 다중 인증 코드, 신용카드 정보를 입력하도록 유도한 뒤 실시간으로 사기꾼에게 전송한다.

2023년 7월부터 현재까지 이 플랫폼은 불법 행위자들이 약 387만 장의 신용카드를 탈취하도록 지원했으며, 피해액은 약 19억 달러, 피해자 수는 「수십만 명」에 달한다. FBI는 구글 및 Lumen 산하 Black Lotus Labs와 협력해 여러 관련 도메인과 Shopify 스토어 계정을 압수했다. 구글은 AI 사기 방지 도구를 배포해 매월 100억 건 이상의 사기 메시지를 차단하고 있으며, AT&T·T-Mobile·Verizon·FBI와 지속적으로 협력하고 있다고 밝혔다.

💬 JudyAI Lab 의견

구글이 「Outsider Enterprise」를 고소한 이번 사건에서 가장 주목할 점은, AI 도구가 범죄자들에 의해 체계적으로 무기화되고 있다는 사실이다. 단 2주 만에 가짜 웹사이트 9,000개를 구축하고, 분당 두 건 이상의 피싱 신고가 접수된 속도는 인력 검토의 한계를 완전히 초월한다.

이 사례는 AI 빌더 커뮤니티가 직시해야 할 균열 하나를 드러낸다. Outsider의 PhaaS 플랫폼 자체가 Gemini를 포함한 AI를 활용해 가짜 웹사이트를 자동 생성하며, 기술 지식이 없는 사람도 주당 88달러만 내면 대규모 공격을 감행할 수 있게 했다. AI가 공격 진입 장벽을 크게 낮추는 동시에, 방어 측도 더 빠른 AI로 맞서야 하는 상황이 됐다. 구글이 매월 100억 건 이상의 사기 메시지를 차단한 사례는 대규모 방어의 가능성을 보여준다. 우리가 관찰한 바로는, 범죄형 서비스가 생성형 AI를 통합하기 시작하면 「신뢰 경계」 설계의 우선순위가 기능 반복보다 높아져야 한다.

브랜드 표현이나 사용자 인증과 관련된 AI 애플리케이션을 개발 중이라면, 지금 한 가지 질문을 먼저 던져볼 가치가 있다. 내 도구가 자기 자신을 복제하는 데 사용될 수 있을까? 이건 가정이 아니다. 이번 사례를 보면 그 답은 거의 확실히 ‘그렇다’이다.

📅 원문 정보

🔗 더 읽기