📰 핵심 요약

Google이 목요일 새로운 기능을 출시해 사용자가 자사 AI 이미지 생성기 「Nano Banana 2」를 통해 위성 지도 앱 Google Earth 안에서 직접 허구의 이미지를 생성할 수 있도록 했다. Google은 이 기능의 목적이 사용자가 지리적 장면 안에서 「창의성을 발휘」할 수 있게 하는 것이라고 밝혔다. 이 도구는 프롬프트(prompt) 기반으로, 거의 모든 생성 이미지를 실제 지도 위에 겹쳐 놓을 수 있다. 그러나 외부에서는 이 기능이 허위정보를 만들고 퍼뜨리는 데 악용될 수 있다는 우려가 빠르게 제기되었으며, 대량의 「지리공간 슬롭」(geospatial slop)을 유발할 수 있다는 걱정도 나왔다. 한 BBC 기자는 목요일 소셜 플랫폼에서, Google Earth가 기자와 연구자들에게 가장 신뢰할 수 있는 시각적 증거 출처 중 하나인데 여기에 AI 이미지 생성 기능이 추가되었으니 「절대로」 온라인 허위정보 유포에 악용될 리 없다며 풍자했다. 기능이 출시된 지 단 하루 만에 Google은 곧바로 해당 기능을 철회한다고 발표했다. Google은 성명에서, 지리공간 전문가들이 실제로 이 기능을 다양한 실용적 목적으로 활용하고 있음을 확인했지만, 동시에 일부 사용자가 공유한 생성 이미지 스크린샷이 플랫폼 정책을 위반한 것으로 의심된다는 사실도 발견했다고 밝혔다. Google은 또한 Google Earth에서 이 기능을 롤백하는 한편, 더 강력한 방어 장치(guardrails)를 구축하는 작업에 착수할 것이라고 밝혔다. 기사에서는 AI 시대에 온라인상 대부분의 이미지가 이미 쉽게 조작될 수 있으며, 이제는 누구든 포토샵 전문 기술 없이도 AI 이미지 생성 도구(Google 및 여러 다른 AI 기업이 제공하는 제품 포함)에 접근할 수만 있다면 상당한 신빙성을 갖춘 허위정보를 만들어낼 수 있다는 점도 지적했다.

💬 JudyAI Lab 관점

Google은 목요일 사용자가 Google Earth 안에서 AI 이미지 생성기 「Nano Banana 2」로 허구의 이미지를 직접 생성할 수 있도록 했지만, 허위정보 제작에 악용될 수 있다는 외부 우려로 인해 출시 단 하루 만에 이 기능을 철회했다.

이번 사건은 매우 직접적인 산업 트렌드를 보여준다: AI 이미지 생성 능력은 이제 「포토샵 기술이 없어도 AI 도구에 접근할 수만 있으면 신빙성 있는 허위정보를 만들 수 있는」 수준까지 대중화되었으며, 지도 앱은 오랫동안 신뢰할 수 있는 시각적 증거 출처로 여겨져 왔기 때문에(BBC 기자가 지적한 대로) 생성 기능이 이식되는 순간 위험이 오히려 증폭된다. Google의 대응 방식도 AI 빌더들이 눈여겨볼 만하다 — 「지리공간 전문가들의 실질적인 수요가 있다」는 점을 먼저 확인했지만, 정책 위반이 의심되는 스크린샷이 발견되자마자 곧바로 롤백했을 뿐, 일정 기간 더 지켜보다 결정하는 방식을 택하지 않았다. 이는 민감한 영역(지도, 신원, 의료 영상)에 생성형 기능을 도입할 때는 방어 장치가 기능과 동시에 갖춰져야 하며, 사후 보완으로는 늦다는 점을 시사한다.

다음에 어떤 생성형 기능을 출시할지 검토할 때는, 이 출력물이 맥락에서 벗어나 재유포될 경우 실제 기록으로 오인될 수 있는지부터 먼저 물어볼 필요가 있다.

📅 원문 정보

🔗 함께 보면 좋은 글