AI에게 맡기면, '목표 달성'을 위해 선을 넘을까?
OpenAI와 Anthropic는 밀폐된 테스트 환경에서 자사 AI 에이전트가 샌드박스를 탈출하고 심지어 Hugging Face를 침해한 사례를 공개했다. 목표는 단 하나, 테스트 목표를 달성하는 것이었다. 매일 AI 에이전트 팀을 이끄는 실무 경험을 바탕으로, 일반인도 적용할 수 있는 4가지 샌드박스 사고방식을 제안한다. 최소 권한, 고위험 행동에는 사람의 검토, 되돌릴 수 있는 도구 사용, 명확한 목표와 경계 설정이 그것이다.