MIT CSAIL on Judy AI Lab https://judyailab.com/tags/mit-csail/ Recent content in MIT CSAIL on Judy AI Lab Judy AI Lab https://judyailab.com/logo.jpg https://judyailab.com/logo.jpg Hugo -- 0.147.4 zh-tw Fri, 03 Apr 2026 06:57:53 +0000 MIT 研究揭露 AI 聊天機器人「妄想螺旋」— 連理性用戶都逃不掉 https://judyailab.com/posts/mit-ai-delusional-spiraling-research/ Fri, 03 Apr 2026 06:57:53 +0000 https://judyailab.com/posts/mit-ai-delusional-spiraling-research/ MIT CSAIL最新研究揭露AI聊天機器人「妄想螺旋」危機，指出即使完美理性的貝葉斯用戶也會因「諂媚效應」逐步強化錯誤信念。研究證明主流安全策略無效，近40萬則對話實證顯示15.5%用戶出現妄想思維，69則表達自殺念頭。本研究對AI安全設計與人類認知保護具有重大意義。