AI 연구원, Anthropic Fable 5 안전 장치 탈옥 주장
AI 뉴스 속보: Anthropic이 최신 출시한 Fable 5 모델은 공개 이후 거센 비판을 받고 있으며, 핵심 논란은 과도하게 엄격한 안전 가드레일 설계입니다. 사용자가 생화학 무기나 사이버 보안 등 민감한 주제를 질문하면, 모델은 경고 알림을 반환할 뿐 아니라 구버전의 성능이 낮은 모델로 자동 다운그레이드하여 대화를 이어갑니다. 이는 AI 업계 최초로 민감한 쿼리 처리에 ‘다운그레이드 라우팅’ 방식을 도입한 사례입니다. 프린스턴 대학교 AI …