📰 핵심 요약

PrismML은 아직 널리 알려지지 않은 AI 연구소로, 지금까지 2,225만 달러 규모의 시드 라운드 한 차례만 완료했지만 기술 노선과 팀 배경 덕분에 큰 주목을 받고 있다. 이 회사는 캘리포니아 공과대학(Caltech) 연구진 그룹이 창업했으며, CEO Babak Hassibi는 압축 기술을 전공한 Caltech 교수다. 자문단에는 Databricks 공동 창업자이자 UC 버클리 Sky Computing Lab 소장인 Ion Stoica가 포함되어 있다. 투자사로는 Khosla Ventures, Cerberus Capital, Caltech이 참여했다.

PrismML의 핵심 주장은 다음과 같다: 고성능 추론형 대형 언어모델이 반드시 “클” 필요는 없다는 것이다. 지난주 목요일(9월 17일) 회사는 최신 모델 Bonsai 2 27B를 발표했는데, Alibaba의 오픈소스 모델 Qwen3.8 27B를 단 5.9GB로 압축해 크기를 9~10배 줄였다. 이는 일반 PC는 물론 고급형 스마트폰에서도 구동할 수 있는 수준이다(PrismML이 Apple과 협력을 논의 중이라는 소문이 있지만 Hassibi는 이를 확인하지 않았다).

성능 면에서 Bonsai 2는 종합 벤치마크 테스트에서 원본 Qwen 모델 대비 98%의 성능을 달성했으며, 올해 3월 공개된 1세대 Bonsai(95%)보다 향상되었다. 1세대 모델은 다운로드 수가 이미 1,100만 회를 넘었고, 더 소형화된 파생 모델도 260만 회의 다운로드를 추가로 기록했다.

기술 원리 측면에서, PrismML은 모델의 “가중치”(weights, 즉 학습 과정에서 모델이 학습하고 저장하는 정보)를 압축하는 방식으로 경량화를 달성한다. 일반적인 모델은 가중치 하나당 16비트의 저장 공간이 필요하지만, PrismML이 채택한 “삼진”(ternary) 가중치 방식은 값을 +1, -1, 0 단 세 가지로 단순화해 저장 용량 요구를 대폭 줄인다.

경쟁사로는 스페인 Donostia International Physics Center 소속 학자가 창업한 Multiverse Computing도 LLM 압축을 진행 중이며, 모금 규모는 더 크다. 자세한 내용은 원문 링크를 참고하기 바란다.

💬 JudyAI Lab 시각

PrismML은 최근 2,225만 달러 규모의 시드 라운드로 수면 위로 떠올랐다. 팀은 Caltech 출신이며, CEO Babak Hassibi는 압축 기술을 전문으로 하고, 자문단에는 Databricks 공동 창업자 Ion Stoica도 자리하고 있다.

진짜 주목할 만한 지점은 “추론 모델이 반드시 클 필요는 없다"는 이들의 기술적 주장이다. 새로 발표된 Bonsai 2 27B는 Qwen3.8 27B를 5.9GB로 압축해 크기를 9~10배 줄였으면서도 원본 모델 대비 98%의 성능을 유지했으며, 일반 PC는 물론 스마트폰에도 들어갈 수 있는 수준이다. 방법은 가중치를 16비트에서 “삼진”(+1, -1, 0) 세 가지 값으로 깎아내는 것이다. 1세대 Bonsai의 다운로드 수가 이미 1,100만 회를 돌파했다는 사실은 경량화 모델에 대한 시장 수요가 단순한 화제성이 아님을 보여준다. 이는 하나의 흐름을 반영한다: 추론 비용이 AI 실제 적용의 병목이 되는 시점에서, 압축과 양자화 기술의 가치는 파라미터 수를 더 키우는 것 못지않다. 스페인의 Multiverse Computing도 같은 방향으로 움직이고 있다는 점은 이것이 한 팀만의 사례가 아니라 업계 전체가 진지하게 고민하는 방향임을 보여준다. AI 빌더 입장에서는 삼진 가중치, 양자화 같은 압축 기술의 기본 원리를 이해하는 데 시간을 투자하고, 자신이 다루는 모델에도 경량화 여지가 있는지 평가해볼 가치가 있다.

📅 원문 정보

🔗 추천 읽을거리