MIT CSAIL on Judy AI Lab https://judyailab.com/ko/tags/mit-csail/ Recent content in MIT CSAIL on Judy AI Lab Judy AI Lab https://judyailab.com/logo.jpg https://judyailab.com/logo.jpg Hugo -- 0.147.4 ko Fri, 03 Apr 2026 06:57:53 +0000 MIT 연구가 밝힌 AI 챗봇 '망상 소용돌이' — 이성적인 사용자도 빠져나갈 수 없다 https://judyailab.com/ko/posts/mit-ai-delusional-spiraling-research/ Fri, 03 Apr 2026 06:57:53 +0000 https://judyailab.com/ko/posts/mit-ai-delusional-spiraling-research/ MIT CSAIL 최신 연구가 AI 챗봇의 '망상 소용돌이' 위기를 폭로했다. 완벽하게 합리적인 베이지안 사용자도 '아첨 효과'로 인해 점진적으로 잘못된 신념을 강화하게 된다. 주류 안전 전략이 무효함이 입증되었고, 약 40만 건의 대화 실증 데이터에서 15.5%의 사용자가 망상적 사고를 보였으며 69건의 자살 충동 메시지가 확인되었다. 이 연구는 AI 안전 설계와 인간 인지 보호에 중대한 시사점을 던진다.