📰 핵심 요약

Y 콤비네이터 CEO 개리 탄(Garry Tan)이 중국 AI 연구소들이 최상위 모델을 ‘증류’(distillation)하는 행위에 규제 당국이 개입하는 것을 원치 않는다고 공개적으로 입장을 밝혔다. 그는 한발 더 나아가 미국도 자체 증류 체계를 구축해야 한다고 주장했다. 증류란 다른 모델에 대량의 질문을 던져 그 작동 방식과 추론 과정을 학습하는 기법으로, 업계에서 널리 쓰이는 합법적인 신규 모델 훈련 방식이다. 탄은 CNBC 인터뷰에서 “나라면 아무것도 하지 않겠다"고 말했으며, TechCrunch에는 좀 더 구체적으로 부연 설명했다. 그는 미국의 소규모 오픈 웨이트 AI 연구소들도 미국 최상위 AI 연구소를 대상으로 동일한 훈련 기법을 적용할 수 있게 되어, 미국이 중국계가 아닌 오픈 웨이트 모델 선택지를 더 풍부하게 가질 수 있기를 바란다고 했다. 이 발언의 배경에는 이번 주 앤트로픽(Anthropic)이 발표한 두 번째 보고서가 있다. 이 보고서는 중국 연구소들이 신분을 숨기고 사기 및 탈취한 자격증명을 이용해 무단 증류를 자행하는 “불법 증류 공격"을 벌이고 있다고 지적했으며, 앤트로픽 CEO 다리오 아모데이(Dario Amodei)도 이전에 미국 규제 당국이 증류 행위를 단속해야 한다고 공개적으로 촉구한 바 있다. 탄은 자신이 미국 연구소가 탈취한 자격증명을 사용해야 한다고 주장하는 것은 아니라며, 오히려 떳떳하게 “정문으로” 정보를 취득해야 한다고 해명했다. 그의 논지는 두 갈래다. 첫째, AI 연구소들이 고객의 API를 통한 정보 이용 방식을 규제하는 것 자체가 과도한 제한이라는 것이다. 둘째, 애초에 그 폐쇄형 모델을 훈련한 연구소들 역시 허락 없이 방대한 인간 지식과 저작권 보호 콘텐츠를 긁어모았다는 점을 지적한다. 그는 정부가 “공공 데이터로 훈련된 지능은 본질적으로 이용약관에 갇힌 자원이 아니라 공공재에 가까워야 한다"는 방향을 밀어붙여야 한다고 본다. 탄은 오픈 웨이트 연구소와 최상위 연구소 간에 균형이 유지되기를 바라며, 진짜 AI ‘종말 시나리오’는 모든 최상위 AI 역량이 결국 단 하나의 폐쇄적이고 독점적인 회사에 집중되는 것이라고 단언했다.

💬 JudyAI Lab 관점

우리는 흔히 증류를 남의 일이라고 여기지만, 이번에 Y 콤비네이터 CEO 개리 탄이 공개적으로 반대 목소리를 냄으로써 논의는 오히려 “이 규칙은 누구에게 유리한가"라는 더 근본적인 질문으로 돌아갔다.

증류는 본질적으로 대량의 질문을 던져 다른 모델의 추론 방식을 학습하는 것으로, 업계에서 꾸준히 널리 쓰여온 기법이다. 탄은 미국이 한편으로는 규제를 통해 중국 연구소의 최상위 모델 증류를 막으면서, 다른 한편으로는 미국 자체의 오픈 웨이트 연구소가 미국 최상위 모델에 같은 행위를 하는 것은 허용하지 않는다면, 이런 이중 잣대는 합리적이지 않다고 본다. 그는 또한 자주 간과되는 모순 하나를 짚어낸다. 바로 그 폐쇄형 모델들도 훈련 당시 무단으로 방대한 공개 데이터와 저작권 보호 콘텐츠를 긁어모았다는 점이다. AI 빌더 입장에서 이는 어떤 ‘안전’이나 ‘준수’ 담론 뒤에도 종종 시장 지위를 보호하려는 장치가 함께 숨어 있을 수 있다는 것을 상기시켜준다. “이 규칙이 실제로는 누구의 우위를 굳혀주는가"를 한 번 더 물어볼 가치가 있다.

다음에 “모델 역량 접근을 제한해야 하는가"라는 논쟁을 접하게 되면, 먼저 이렇게 생각해보자. 이 규칙이 성립한다면, 누가 그로 인해 따라잡기 더 어려워지는가.

📅 원문 정보

🔗 더 읽어보기