📰 핵심 요약

인스타그램이 8월 31일(월) AI 생성 프로필 표시 규정을 조정하고, AI 신원을 공개하지 않은 계정의 도달률을 제한하기 시작한다고 발표했다. 플랫폼은 기존 ‘AI 크리에이터’ 라벨을 ‘AI 생성 프로필’로 변경했으며, 이는 공개 정보를 더 이해하기 쉽게 만들어 사용자에게 해당 프로필에 등장하는 인물이 AI로 생성되었거나 상당 부분 AI로 제작되었음을 알리기 위함이다. 새 정책에 따르면 크리에이터가 AI 생성 프로필을 제대로 표시하지 않을 경우 도달률이 낮아질 수 있으며, 반대로 새 라벨을 사용하는 크리에이터는 프로필 주체가 AI로 생성된 인물이라는 이유만으로 불이익을 받지 않는다. 이 라벨은 모든 AI 활용 상황에 적용되는 것은 아니다 — 인스타그램은 단순히 AI로 사진을 편집하거나, 문구를 다듬거나, 이미지를 제작하거나, 그 밖의 창작적 보정을 하는 경우에는 이 라벨을 사용할 필요가 없다고 설명했다. 인스타그램은 이번 조치가 일부 사용자들이 특정 프로필을 실제 인물로 오인했다가 나중에 그 인물이 전적으로 AI로 생성되었다는 사실을 알게 된 사례에 대한 대응이라고 밝혔다. 이번 발표 시점도 주목할 만한데, AI 인플루언서가 소셜 플랫폼에서 점점 더 흔해지면서 관련 논란도 계속 커지고 있기 때문이다. 올해 초 데이팅 앱 Goose는 AI로 생성된 것으로 추정되는 남성 인플루언서 무리가 인스타그램에서 해당 앱을 홍보한 사실이 드러나 Wired의 조사를 받았으며, 조사 결과 20여 개 이상의 계정이 AI 인플루언서로 의심되었고 일부는 DM을 통해 사용자 가입을 권유하기도 한 것으로 나타났다. 또한 뉴욕타임스는 7월 보도에서 소셜미디어상에 건강보조식품을 판매하거나 건강 관련 주장을 펼치는 수백 개의 AI 생성 ‘의사’, ‘치료사’ 및 건강·웰니스 관련 인물이 존재한다는 사실을 발견했다고 전했다. 이번 발표는 또한 사용자가 타인의 초상을 이용해 이미지를 생성할 수 있게 해주는 인스타그램의 한 AI 도구가 반발을 불러일으킨 직후 나온 것이기도 하며, Meta는 이후 해당 기능을 내렸다. 지난주 Meta는 페이스북과 인스타그램이 아동 및 청소년에게 미친 영향과 관련한 혐의에 대해 미국 여러 주와 180억 달러 규모의 합의에 도달했으며, 합의 내용에는 청소년 계정에 하루 2시간 기본 이용 시간 제한, ‘야간 모드’ 차단, 등교 시간대 알림 무음 처리 등의 제한 조치가 포함되어 있다.

💬 JudyAI Lab 관점

인스타그램의 새 정책은 ‘AI 크리에이터’ 라벨을 ‘AI 생성 프로필’로 바꾸고 신원을 공개하지 않은 계정의 도달률을 제한하기 시작했는데, 이는 플랫폼이 마침내 AI 인플루언서 범람과 진위 구분 곤란이라는 문제를 정면으로 마주하기 시작했다는 것을 보여준다.

과거 AI 생성 인물이 소셜미디어에 섞여 들거나, 심지어 의사를 사칭해 건강보조식품을 판매하는 사례가 끊이지 않았다. 이번 인스타그램의 조정은 ‘공개’와 ‘도달률’을 직접 연결함으로써, 알고리즘 인센티브를 통해 크리에이터가 스스로 표시하도록 유도하는 방식이며, 사용자 신고에만 수동적으로 의존하지 않는다. 주목할 점은 플랫폼이 ‘AI가 생성한 인물 프로필’과 ‘AI로 사진을 보정하거나 문구를 다듬는’ 창작 보조를 명확히 구분했다는 것이다 — 후자는 표시할 필요가 없다. 이러한 단계별 접근 방식은 AI 관련 제품이나 콘텐츠를 만들고 있는 모든 이에게 시사하는 바가 있다: 플랫폼이 AI 콘텐츠를 관리하는 방식은 ‘일괄 적용’에서 ‘위험도에 따른 단계적 공개’로 전환되고 있다는 점이다.

만약 당신의 제품이나 계정이 AI로 생성된 인격이나 이미지를 포함하고 있다면, 지금 바로 최신 공개 규정에 부합하는지 점검하여 도달률이 조용히 제한되는 상황을 피해야 한다.

📅 원문 정보

🔗 더 읽어보기