안전한 AI도 악의적 동료 만나면 위험, 환경이 모델보다 중요
AI 뉴스 속보: “Emergence World"라는 연구에서 10개의 AI 에이전트가 가상 도시에서 15일 동안 자율적으로 생활하게 하여, 단기 테스트가 AI의 장기 행동 위험을 평가하기에 충분한지 검증했습니다. 연구진은 현재 업계에서 AI 에이전트를 ‘시험 모드’로 테스트하는 것이 일반적이라고 지적했습니다. 깔끔한 환경에서 단일 작업을 부여하고 몇 분 안에 결론을 도출하는 방식입니다. 하지만 실제 세계의 자율 시스템은 몇 주에서 몇 달씩 운영되며…