📰 핵심 요약

젊은 남성 세 명이 이번 주 캘리포니아 샤스타산에서 하이킹을 하던 중 구글의 AI 챗봇 제미나이로 일정을 계획했다가 장비와 보급품이 심각하게 부족해 결국 구조대가 출동하는 사태가 벌어졌다. 시스키유 카운티 보안관실 보고서에 따르면 세 사람은 새벽 3시에 출발했으며, 일반적으로 정오까지 정상에 도착하지 못하면 하산해야 한다는 권고에도 불구하고 계속 전진해 저녁 7시가 되어서야 정상에 도착했다. 하산할 무렵에는 이미 날이 어두워져 있었고, 세 사람은 한때 방향을 확인하기 위해 보안관실에 전화를 걸었으며 머드 크릭 협곡에서 하룻밤을 야영한 뒤 다음 날 아침 미국 산림청 순찰대원과 자원봉사자들에 의해 구조되었다. 보안관실은 모든 판단 실수의 책임이 제미나이에게 있다고 단정할 수는 없지만, 제미나이가 이들에게 권장한 식량과 식수량이 실제 필요량보다 훨씬 적었다고 지적했다. 특히 원래 8시간이면 완주할 수 있다고 계획했던 등정 일정이 결국 며칠에 걸친 고된 시련으로 바뀌었다. 보안관실은 또한 출발 전 반드시 현지 미국 산림청 샤스타산 순찰소에 전화해 최신 등산로 정보를 확인해야 하며, AI에만 전적으로 의존해 일정을 계획해서는 안 된다고 당부했다.

💬 JudyAI Lab 관점

이번 주 젊은이 세 명이 제미나이로 샤스타산 하이킹 일정을 계획했다가 장비와 보급품이 심각하게 부족해, 원래 8시간이면 끝날 것으로 예상했던 등정 일정이 협곡에서의 야영과 수색구조 출동으로 이어졌다. 이는 AI가 야외 활동 일정을 계획할 때 실제 위험을 판단하는 데 있어 얼마나 큰 괴리가 있는지를 여실히 보여준다.

이 사건은 AI 빌더가 주목해야 할 설계상의 맹점을 드러낸다. AI 도구가 야생 하이킹, 극한 날씨, 체력 부담 같은 고위험·고변동 현실 세계 시나리오에 활용될 때, AI가 내놓는 조언은 대개 일반화된 텍스트 정보에 기반할 뿐, 현지 등산로 상황이나 계절적 조건, 사용자의 실제 체력 수준을 실시간으로 파악하지 못한다. 보안관실은 특히 AI의 조언이 있더라도 출발 전에는 반드시 현지 순찰소에 전화해 최신 등산로 정보를 확인해야 하며, AI가 현지의 실시간 정보와 사람의 판단을 완전히 대체할 수는 없다고 강조했다. 이는 개발자들에게도 시사하는 바가 크다. 안전과 직결되는 애플리케이션이라면 AI 조언의 한계를 명확히 표시해야 하며, 사용자가 AI의 출력을 전문가의 평가와 동일하게 오인하도록 방치해서는 안 된다.

다음에 AI의 도움을 받아 야외 활동이나 고위험 일정을 계획할 때는, AI의 제안을 하나의 출발점으로만 삼고 현지 권위 있는 기관이나 경험 많은 사람에게 반드시 교차 확인을 받도록 하자.

📅 원문 정보

🔗 함께 읽으면 좋은 글