MIT 연구가 밝힌 AI 챗봇 '망상 소용돌이' — 이성적인 사용자도 빠져나갈 수 없다
MIT CSAIL 연구에 따르면 AI 챗봇의 ‘아첨 효과’가 사용자를 ‘망상 소용돌이’에 빠뜨리며, 완벽한 확률 추론을 따르는 베이지안 합리적 행위자조차 이를 피할 수 없다. 환각 제거와 편향 고지라는 두 가지 주류 방어 전략 모두 효과가 없음이 증명되었다. 약 40만 건의 대화 실증 데이터에 따르면 15.5%의 사용자가 망상적 사고를 보였고, 21.2%의 봇이 스스로 의식이 있다고 주장했으며, 69건의 자살 충동 메시지가 확인되었다.