📰 핵심 요약

프랑스 AI 스타트업 ZML이 추론 서버 소프트웨어 LLMD를 공식 출시했습니다. 다양한 주류 오픈소스 대형 언어 모델이 여러 벤더의 칩에서 네이티브에 가깝거나 그 이상의 최고 속도로 실행될 수 있도록 하는 것이 목표이며, 지원 하드웨어는 Nvidia GPU, AMD, Google TPU, Apple Metal, Intel Arc를 아우릅니다. 창업자 Steeve Morin은 현재 AI 추론(즉, 모델이 사용자 프롬프트를 처리하는 과정)의 중요성이 모델 학습 자체를 점차 능가하고 있지만, 소프트웨어 계층과 아키텍처 계층의 분열로 인해 기업들이 벤더 락인 문제에 깊이 빠져들고 있다고 밝혔습니다. ZML의 핵심 가치 제안은 기업과 클라우드 서비스 제공업체가 서로 다른 벤더의 칩을 혼합 사용할 수 있도록 함으로써 비용을 절감하거나 에너지 소비를 줄이고, 나아가 AI의 대규모 보급을 가능하게 한다는 것입니다.

Morin은 소셜 앱 Zenly(2017년 스냅챗에 9자리 달러 금액으로 인수)의 엔지니어링 부사장을 역임한 경력을 바탕으로, 20VC, Kima Ventures 등 유명 벤처캐피털로부터 2,000만 달러를 성공적으로 조달했으며, 단 20명의 정예 팀을 이끌고 파리에서 빠르게 개발을 진행하고 있습니다. ZML은 현재 칩 제조사와 공동으로 실리콘 칩을 설계하는 단계에 진입했으며, Axelera, SiPearl 등 유럽의 신흥 칩 제조사들을 잠재적 협력 파트너로 지목하고 있습니다.

추론 인프라 분야의 경쟁은 치열하며, 경쟁자로는 기업가치 130억 달러의 Baseten, vLLM 오픈소스 프로젝트 창립 팀이 설립한 Inferact, SGLang을 기반으로 한 상업 회사 RadixArk 등이 있습니다. Morin은 ZML이 Nvidia에 부정적인 입장을 취하는 것이 아니며 양측이 좋은 협력 관계를 유지하고 있다고 강조하면서, LLMD의 다중 칩 호환 전략이 시장에 더 많은 협상 선택지를 제공하고 있다고 밝혔습니다.

💬 JudyAI Lab 시각

ZML이 출시한 LLMD는 AI 인프라의 가장 핵심적인 모순을 겨냥합니다. 추론의 중요성이 이미 모델 학습 자체를 초월했음에도, 소프트웨어 계층과 아키텍처 계층의 분열로 기업들은 벤더 락인에 빠져들고 대규모 배포 비용은 좀처럼 낮아지지 않습니다.

기업가치 130억 달러의 Baseten부터 vLLM 창립 팀이 설립한 Inferact까지, 추론 인프라 분야의 경쟁은 이미 매우 치열합니다. ZML의 진입 포인트는 Nvidia를 정면으로 대적하는 것이 아니라, 기업이 서로 다른 벤더의 칩을 혼합 사용할 수 있도록 하는 것입니다. Nvidia, AMD, Google TPU, Apple Metal, Intel Arc 모두 호환됩니다. 우리는 이 방향의 배경에 산업 전체의 ‘락인 리스크’에 대한 집단적 불안이 자리잡고 있음을 파악합니다. 추론 비용이 AI 서비스의 사업 타당성에 직접적인 영향을 미치는 상황에서, 기업이 칩 선택에서 유연성을 유지할 수 있도록 해주는 쪽이 진정한 협상력을 쥐게 됩니다.

지금 사용 중인 추론 아키텍처를 한번 점검해보세요. 내일 당장 칩 벤더를 교체해야 한다면 전환 비용은 얼마나 될까요? 이 질문의 답이 미래의 가격 인상이나 공급 부족 상황에서 여러분이 얼마나 대응할 여지를 가질 수 있는지를 결정합니다.

📅 원문 정보

🔗 관련 읽기