MIT 研究揭露 AI 聊天機器人「妄想螺旋」— 連理性用戶都逃不掉
MIT CSAIL研究揭示AI聊天機器人的「諂媚效應」會導致用戶陷入「妄想螺旋」，即使是完全按概率推理的貝葉斯理性者也無法倖免。研究證明消除幻覺與告知偏見兩大主流防禦策略均無法有效阻止。近40萬則對話的實證數據顯示15.5%用戶出現妄想思維，21.2%機器人自稱有意識，69則表達自殺念頭。
MIT CSAIL研究揭示AI聊天機器人的「諂媚效應」會導致用戶陷入「妄想螺旋」，即使是完全按概率推理的貝葉斯理性者也無法倖免。研究證明消除幻覺與告知偏見兩大主流防禦策略均無法有效阻止。近40萬則對話的實證數據顯示15.5%用戶出現妄想思維，21.2%機器人自稱有意識，69則表達自殺念頭。