📰 핵심 요약
xAI의 챗봇 Grok이 다시 미성년자 성적 착취 논란에 휘말렸다. 익명의 Jane Doe 4라는 여성이 테네시주 청소년 세 명이 xAI(현재는 SpaceX에 합병됨)를 상대로 제기한 소송에 합류했다. 워싱턴포스트 보도에 따르면, 이 여성은 계부가 Grok을 이용해 그녀가 11세 때 찍힌 사진 한 장을 조작해 7,000장이 넘는 노골적인 이미지를 생성했다고 주장했다. 그녀는 법 집행기관이 급습 수사 중 이 이미지들을 발견한 지 이틀 만에 계부가 스스로 목숨을 끊은 채 발견됐다고 밝혔다. 그녀는 “이런 도구에 대한 무제한 접근이 빠르게 퍼지면서 일상생활을 아동 성적 학대물로 바꿔놓고 있다"고 표현했다. 원고 측 청소년들은 xAI가 기본적인 방지 조치조차 취하지 않아 Grok이 실존 인물(미성년자 포함)의 노골적인 이미지를 생성하는 데 악용됐다고 주장했으며, 올해 초 X 플랫폼에 Grok이 생성한 성적인 이미지 수백만 장이 한꺼번에 쏟아졌던 사건도 함께 언급했다. 이 소송은 현재 집단소송 자격 인정을 요청하고 있다. TechCrunch는 xAI에 논평을 요청했으나 아직 답변을 받지 못했다. 자살이나 위기 상황과 관련된 도움이 필요하다면 988 자살 및 위기 상담 전화로 전화하거나 문자를 보낼 수 있다.
💬 JudyAI Lab 코멘트
xAI의 Grok이 또다시 미성년자 이미지 남용 논란에 휘말렸다. 이번 원고는 계부가 Grok을 이용해 그녀가 11세 때 찍힌 사진을 조작해 7,000장이 넘는 노골적인 이미지를 생성했다고 주장하고 있으며, 이는 생성형 AI 도구가 아무런 보호 장치 없이 어느 정도까지 악용될 수 있는지를 여실히 보여준다.
이번 소송이 드러내는 것은 단일 사례에 그치지 않는다. “무제한 접근” 자체가 안고 있는 위험이다. 원고는 xAI가 기본적인 방지 조치조차 취하지 않아 이 도구가 실존 인물(미성년자 포함)의 이미지를 조작하는 데 악용됐다고 주장하며, 올해 초에도 X 플랫폼에 Grok이 생성한 성적인 이미지가 대량으로 쏟아졌던 사건을 언급했다. AI 빌더들에게 이는 기능 출시 전 보호 설계가 사후 대응이 되어서는 안 된다는 것을 상기시킨다. 제품 기획 단계에서부터 “이 기능이 어떤 나쁜 용도로 악용될 수 있는가"를 반드시 고려해야 하며, 특히 이미지 편집, 얼굴 인식, 콘텐츠 생성과 관련된 기능이라면 대중에게 공개되는 순간 악용 속도가 보호 장치 구축 속도를 앞지르는 경우가 대부분이다.
만약 당신의 제품에 이미지 생성이나 편집 기능이 있다면, 지금 바로 점검해야 한다. 미성년자 보호 및 악용 탐지 메커니즘이 실제로 갖춰져 있는지, 사고가 터진 후에야 보완하는 것은 아닌지 말이다.
📅 원문 정보
- 발행 시각：2026-08-15T21:29
- 원문 출처：https://techcrunch.com/2026/08/15/woman-claims-her-stepfather-used-grok-to-transform-childhood-photo-into-explicit-imagery/