이 글은 JudyAI Lab의 AI 엔지니어링 시리즈 중 하나입니다 — 100편 이상 발행된 가이드, 60개국 5,000명 이상의 주간 독자가 읽는 콘텐츠로, AI 에이전트·트레이딩 시스템·콘텐츠 파이프라인의 실전 운영에 초점을 둡니다.

📰 핵심 요약

아마존 CEO 앤디 재시(Andy Jassy)가 Anthropic의 두 모델을 전 세계에서 긴급 삭제하게 만든 안전 우려의 발단으로 지목됐다. 《월스트리트저널》 보도에 따르면, 재시는 미국 재무장관 스콧 베센트(Scott Bessent)와 여러 정부 관계자에게 아마존 연구원들이 Anthropic의 Claude Fable 5 모델을 사용해 사이버 공격에 활용 가능한 정보를 획득하는 데 성공했다고 밝혔다. 이후 정부는 Fable 5와 Mythos 5 두 모델에 수출 통제 금지 조치를 내렸고, Anthropic은 이에 따라 전 세계에서 접근을 차단했다. 아마존 대변인은 잠재적 안전 위험에 관해 정부와 의견을 교환하는 것은 드문 일이 아니라고 밝히면서도 논의 세부 내용은 공개하지 않겠다고 했으며, AWS 역시 이번 삭제 사건의 영향을 받았음을 확인했다.

사건의 또 다른 핵심 주장은 트럼프 행정부 전 AI 차르이자 현 대통령 과학기술자문위원회 공동 의장 데이비드 색스(David Sacks)로부터 나왔다. 그는 “Anthropic과 미국 정부 양측으로부터 두터운 신뢰를 받는 파트너"가 탈옥(jailbreak) 취약점을 자발적으로 제보했으며, 이후 정부가 Anthropic CEO 다리오 아모데이(Dario Amodei)에게 취약점 수정 또는 자진 모델 삭제를 요구했지만 아모데이가 이를 거부했다고 주장했다. Anthropic은 공식 블로그 답변에서 외부가 우려하는 기능은 이미 공개된 다른 모델들에도 동일하게 존재한다고 밝히며, 이번 규제 결정의 근거가 충분하지 않음을 시사했다. 《The Information》과 로이터 역시 아마존이 안전 우려를 전달한 사실을 독립적으로 보도하면서 사건의 윤곽이 더욱 뚜렷해졌다.

💬 JudyAI Lab 관점

AI 모델이 탈옥 취약점으로 인해 전 세계에서 강제 삭제된 Claude Fable 5와 Mythos 5 사건은, AI 안전 거버넌스가 벤더 자율 규제에서 다자 각축 구도로 전환되고 있음을 보여준다. 우리는 이를 우발적 사건이 아닌 명확한 신호로 본다.

이번 사건에서 AI 빌더가 가장 주목해야 할 점은 안전 우려의 전달 경로다: 아마존 연구원이 문제를 발견하고, 이를 정부 관계자에게 전달했으며, 수출 통제 금지로 확대됐다. Anthropic은 이 연결고리에서 사실상 마지막에 통보받는 역할에 머물렀다. Anthropic은 답변에서 외부가 우려하는 기능이 이미 공개된 다른 모델들에도 동일하게 존재한다고 지적하며, 이번 규제 결정의 타깃이 지나치게 특정적이고 근거도 의심스럽다는 점을 시사했다. 빌더 입장에서 이는 하나의 현실을 드러낸다: 당신이 의존하는 API는 벤더 외부의 정치적·컴플라이언스 이슈로 언제든 갑자기 중단될 수 있다. 이번에 AWS도 영향을 받았다는 사실은 클라우드 통합 레이어조차 안정적인 완충재라고 가정할 수 없음을 보여준다.

핵심 모델 API가 내일 서비스를 중단한다면, 제품에 대체 경로가 있는가? 지금 당장 생각해 두는 것은 비관적 태도가 아니라 엔지니어링의 기본 상식이다.

📅 원문 정보

🔗 더 읽어보기