📰 핵심 요약

다리오 아모데이(Dario Amodei)가 월요일 게시글을 통해 Anthropic의 입장에 대한 업계의 추측에 답변하며, 회사가 오픈 웨이트 모델의 전면 금지를 주장한 적이 없다고 밝혔다. 앞서 Nvidia 창업자 젠슨 황이 X 플랫폼에 첫 게시글을 올려, Nvidia, Hugging Face, Meta, Microsoft, Mistral 등이 공동 서명한 공개서한을 공유하며 정책 입안자들에게 오픈 웨이트 AI 모델에 “때 이른 제약"을 가하지 말 것을 촉구했다. 이 서한은 중국을 직접 언급하지는 않았지만, 업계의 논의 초점은 중국 AI 연구소들이 미국 동종 업계의 지적 재산을 훔쳐 자사 역량을 끌어올리고 있는지 여부에 맞춰져 있으며, 그 방법 중 하나로 “증류”(distillation)가 거론된다. 이는 다른 모델에 대량의 프롬프트를 쏟아부어 그 작동 방식을 학습하는 기법이다.

아모데이는 위험한 능력을 갖추지 않은 오픈 웨이트 모델은 일종의 공공재이며, 연산 비용을 제외하면 거의 비용이 들지 않고 기업, 개발자, 연구자들에게 가치를 창출해준다고 밝혔다. 그는 중국발 위협과 오픈 웨이트 모델은 별개로 봐야 하며, 중국에서 나온 오픈 웨이트 모델이라 해도 기업이 이를 사용하는 것은 자신의 우려 대상이 아니라고 말했다. 그가 진짜로 우려하는 것은 “권위주의 정부"가 미국보다 더 강력한 모델을 만들어 “영구적인 군사적 우위"를 확보하거나 자국민 탄압에 사용하는 상황이며, 중국 공산당이 그가 유일하게 걱정하는 대상은 아니지만 “가장 역량이 뛰어난” 대상이라고 밝혔다. 그는 또한 AI가 사이버 공격에 그치지 않고 “생물학적 공격"에 악용될 가능성도 우려하고 있으며, 이런 시나리오에서는 보호 장치를 적용하거나 사용 현황을 모니터링하기 어렵기 때문에 오픈 웨이트 모델의 위험이 더 크다고 보았다. 그는 영국 AI 안전 연구소(AI Safety Institute)의 보고서를 인용하며, 오픈 웨이트는 한번 공개되면 회수할 수 없다는 점을 지적했다. 아모데이는 중국의 첨단 반도체 확보를 제한하고 증류 행위를 공식적으로 단속해야 한다고 주장하는 한편, 전 세계 모델 안전성 테스트 기구 설립을 지지하며 중국도 여기에 참여하기를 희망한다고 밝혔다.

💬 JudyAI Lab 관점

Anthropic CEO 다리오 아모데이가 월요일 이례적으로 공개 답변에 나서, 회사가 오픈 웨이트 모델의 전면 금지를 주장한 적이 없다고 밝혔다. 이번 논쟁은 젠슨 황이 Nvidia, Meta, Microsoft 등 업계 거물들을 모아 정책 입안자들의 오픈 웨이트 AI “때 이른 제약"에 반대하는 공개서한에 서명하도록 촉구하면서 시작됐다.

이번 발언에서 AI 빌더들이 주목할 만한 점은, 아모데이가 두 가지를 명확히 분리했다는 것이다. 오픈 웨이트 모델 자체와, 권위주의 정부가 그 모델로 무엇을 하는가는 별개의 문제라는 것이다. 그는 전자를 공공재로 보며, 기업과 연구자들이 거의 제로에 가까운 비용으로 가치를 얻을 수 있게 해준다고 말했다. 중국의 오픈 웨이트 모델을 기업이 사용하는 것조차 그의 우려 대상이 아니었다. 진짜 위험은 후자에 있다. 어떤 정부가 최강의 모델로 군사적 우위나 탄압 수단을 확보하거나, AI가 단순 사이버 공격을 넘어 생물학적 공격에 악용될 때, 오픈 웨이트는 회수가 불가능하고 모니터링이 어렵기 때문에 그 위험이 증폭된다. 이처럼 “모델 개방 정도"와 “사용자의 의도"를 분리해서 평가하는 사고방식은, 리스크 판단을 하고 있는 팀들에게 하나의 시사점을 준다. 모든 제약 관련 논의에 동일한 잣대를 적용해서는 안 된다는 것이다.

다음번에 자신의 모델이나 도구를 오픈소스로 공개할지 평가할 때는, 진짜 위험이 모델 능력 자체에서 오는 것인지, 아니면 누가 그것을 사용할 것인지에서 오는 것인지 먼저 물어보는 것이 좋겠다.

📅 원문 정보

🔗 함께 보기