같은 단어, 완전히 다른 두 세계
얼마 전 커뮤니티에서 친구들과 이야기하다가 누군가 물었습니다. “Judy, 네가 말하는 Token이 AI Token이야, 암호화폐 Token이야?”
잠시 멈칫했습니다.
맞아요, 저는 매일 두 세계에서 동시에 ‘Token’이라는 단어를 쓰고 있지만, 의미는 완전히 다릅니다. 암호화폐에서 Token은 자산입니다. 사고팔 수 있고, 시가총액이 있으며, 하룻밤 사이에 부자가 되거나 전부 잃을 수도 있습니다. AI 세계에서 Token은 텍스트의 최소 과금 단위입니다. 글자 하나를 입력하거나 AI에게 질문할 때마다 Token을 소비합니다.
이더리움에서 송금할 때 Gas Fee를 내는 것과 같습니다. AI 모델을 호출할 때도 비용을 지불해야 합니다. 다만 AI의 Gas Fee는 ETH가 아니라 달러로 정산됩니다. 그리고 이 ‘요금’은 업체마다 차이가 어마어마합니다.
완전 무료부터 백만 Token당 21달러까지.
오늘은 이 AI 추론 가격 지도를 펼쳐보려 합니다. 교과서를 쓰려는 게 아니라, 제가 직접 7개의 AI Agent로 팀을 운영하면서 Token 비용이 매일 마주하는 현실적인 비용이기 때문입니다. 이것을 이해해야 AI 산업 뒤에 숨겨진 진짜 경제 규모가 보입니다.
AI의 Token이란 정확히 무엇인가?
가장 기본적인 것부터 이야기하겠습니다.
AI 모델은 ‘글자’를 인식하지 못합니다. 모델이 인식하는 것은 Token입니다. Token은 텍스트를 잘게 쪼갠 조각이라고 생각하면 됩니다. 영어가 이해하기 쉽습니다. “Hello"는 1개의 Token이고, “artificial intelligence"는 대략 2~3개의 Token입니다. 모델은 텍스트를 이런 조각으로 분해해야 내용을 이해하고 생성할 수 있습니다.
암호화폐 개념으로 비유하면 다음과 같습니다:
- Token = Gas 단위. 이더리움에서 스마트 컨트랙트를 실행할 때, Gas 사용량은 컨트랙트의 복잡도에 따라 달라집니다. AI도 마찬가지입니다. 질문이 길고 답변이 상세할수록 더 많은 Token을 소비합니다.
- Token 단가 = Gas Price. 이더리움의 Gas Price는 네트워크 혼잡도에 따라 변동합니다. AI의 Token 단가는 각 회사가 자체적으로 정하며, 실시간으로 변동하지는 않지만 모델 간 가격 차이가 매우 큽니다.
- 총 비용 = Token 사용량 x 단가. Gas Fee를 지불하는 논리와 완전히 동일합니다.
또 하나의 핵심적인 차이가 있습니다. AI API 가격은 **입력(Input)**과 출력(Output) 두 가지로 나뉩니다. 질문하는 부분이 입력이고, AI가 답변하는 부분이 출력입니다. 출력은 보통 입력보다 훨씬 비쌉니다. 텍스트를 생성하는 것이 읽는 것보다 더 많은 컴퓨팅 파워를 필요로 하기 때문입니다.
이는 이더리움에서 온체인 데이터를 ‘읽는’ 것은 Gas가 들지 않지만, ‘쓰는’ 것은 Gas를 지불해야 하는 것과 같은 원리입니다.
2026년 AI 추론 가격 전체 현황
주요 모델의 API 가격을 정리한 표입니다. 모든 가격은 백만 Token당 달러 기준입니다:
가격은 2026년 3월 기준이며, 각 업체에서 언제든지 조정할 수 있습니다. 오픈소스 모델의 무료는 모델 자체를 의미하며, 자체 서버 구축에 필요한 하드웨어와 전기 요금은 별도입니다.
이 표를 보면, 가장 비싼 것과 가장 저렴한 것 사이에 수백 배의 차이가 있습니다. 하지만 저렴하다고 나쁘고 비싸다고 좋다는 뜻은 아닙니다. 그 이면에는 자세히 살펴볼 만한 것들이 많습니다.
네 가지 가격 구간, 각각의 논리
1단계: 무료 오픈소스 (Llama 4, Gemma 3, DeepSeek V3)
Meta의 Llama 4와 Google의 Gemma 3은 완전 오픈소스입니다. 모델 파일을 다운로드해서 자신의 컴퓨터나 서버에서 실행할 수 있으며, API 비용을 전혀 내지 않아도 됩니다.
그러나 ‘무료’에는 전제 조건이 있습니다. GPU 하드웨어를 직접 준비해야 합니다. 괜찮은 그래픽 카드 하나만 해도 수천 달러이고, 전기 요금도 지속적으로 나갑니다. 그래서 이 ‘무료’는 매매 vs 임대와 비슷합니다. 초기 투자는 크지만, 장기적으로 운영하면 호출당 한계 비용이 거의 0에 가까워집니다.
DeepSeek V3는 약간 다릅니다. 오픈소스이면서도 상용 API를 제공하는데, 입력 백만 Token당 $0.28에 불과합니다. 이 가격은 놀라울 정도로 낮으며, 혼합 전문가 아키텍처(MoE)를 통해 추론 시 컴퓨팅 소비를 크게 줄였기 때문입니다.
적합한 대상: 기술력이 있어 자체 구축이 가능하고, 지연 시간에 민감하지 않으며, 호출량이 많아 API 임대가 비경제적인 경우.
2단계: 예산 등급 ($0.05 - $0.80)
GPT-4.1 Nano($0.05), GPT-4o Mini($0.15), Claude Haiku 3.5($0.80).
이 구간은 ‘쓸 만하면 된다’는 선택입니다. 간단한 텍스트 분류, 요약, 고객 응대에 충분히 사용할 수 있습니다. 심층적인 추론은 필요 없지만, 대량의 요청을 안정적이고 빠르게 처리해야 하는 경우입니다.
제 AI 팀에서도 몇몇 Agent가 이 등급의 모델로 작동하고 있습니다. 일상적인 형식 검사나 간단한 데이터 정리 같은 것은 플래그십 모델을 쓸 필요가 없습니다. 절약한 비용은 정말 깊이 생각해야 하는 작업에 투입합니다.
3단계: 중급 주력 ($1 - $5)
Gemini 2.5 Pro($1.25), GPT-5.2($1.75), GPT-4.1($2.00), Claude Sonnet 4.6($3.00), Claude Opus 4.6($5.00).
현재 가장 ‘가성비 좋은’ 구간입니다. 모델 성능이 이미 매우 강력하면서도 가격은 여전히 통제 가능한 범위입니다. 대부분의 상용 AI 애플리케이션 – 챗봇, 콘텐츠 생성, 코딩 지원 – 이 이 구간에 해당합니다.
특히 주목할 만한 것은 Claude Opus 4.6입니다. 이전 버전인 Opus 4는 입력 $15 / 출력 $75이었지만, 4.6 버전에서 $5 / $25로 대폭 인하되었으며 성능은 오히려 향상되었습니다. 이런 ‘더 강력하면서도 더 저렴해지는’ 추세는 AI 산업에서 흔히 볼 수 있으며, 무어의 법칙 정신과 유사합니다.
4단계: 최상위 추론 ($5 - $21)
Claude Opus 4(입력 $15), GPT-5.2 Pro(입력 $21 / 출력 $168).
이 구간은 ‘비용은 문제가 아니고, 최고의 추론 품질이 필요하다’는 경우를 위한 것입니다. 복잡한 수학 증명, 장문의 코드 리뷰, 다단계 심층 추론이 필요한 작업 등입니다.
GPT-5.2 Pro의 출력 가격은 백만 Token당 $168로, 현재 시장에서 가장 비쌉니다. 하지만 이 모델의 대상 고객은 개인 사용자가 아니라 기업 수준의 연구 부서와 금융 기관입니다. 이들에게 하나의 정확한 추론 결과가 수백만 달러의 가치를 지닐 수 있으니, $168은 아무것도 아닙니다.
비용 절감의 세 가지 핵심 전략
AI API를 본격적으로 사용하기 시작하면, 조만간 청구서 문제에 부딪히게 됩니다. 다음은 현재 가장 효과적인 세 가지 비용 절감 전략입니다.
Batch API – 약 50% 할인
대부분의 주요 공급업체가 Batch API를 제공합니다. 요청을 묶어서 24시간 내에 처리합니다. 실시간 응답이 필요 없는 작업(대량 번역, 데이터 분석 등)에 사용하면 바로 절반을 절약할 수 있습니다.
Anthropic과 OpenAI의 Batch API 할인율은 모두 50%입니다. 즉, Claude Sonnet 4.6를 Batch API로 실행하면 입력 가격이 $3.00에서 $1.50으로 내려갑니다.
Prompt Caching – 최대 90% 절감
API 호출에 반복되는 접두사 내용(시스템 프롬프트, 고정 배경 자료 등)이 많다면, Prompt Caching이 이 내용을 캐시합니다. 다음 호출 시 캐시가 적중된 부분은 10%의 비용만 부과됩니다.
Anthropic의 Prompt Caching 캐시 적중 가격은 표준 입력 가격의 10%이며, 최대 90%까지 절감할 수 있습니다. 동일한 모델을 반복적으로 호출하면서 긴 시스템 프롬프트를 사용하는 애플리케이션에서 이 절감 효과는 상당합니다.
Model Routing – 작업별 모델 선택
이것은 제가 매일 하고 있는 일입니다. 모든 작업에 가장 비싼 모델을 사용할 필요는 없습니다.
간단한 질문은 Haiku로 답변하고, 복잡한 질문에만 Opus를 사용합니다. 제 AI 팀에서 관리급 Agent는 고급 모델로 의사결정을 하고, 실행급 Agent는 저가 모델로 일상 업무를 처리합니다.
이론적으로 이 세 가지 전략은 동시에 사용할 수 있습니다. Batch API로 50% 할인, Prompt Caching으로 반복 부분 90% 추가 절감, Model Routing으로 필요한 경우에만 비싼 모델을 사용합니다. 실제로 얼마나 절약할 수 있는지는 구체적인 사용 환경에 따라 다르지만, 전체 비용을 원래의 20~30%까지 줄이는 것은 충분히 가능합니다.
비영어권 사용자의 숨겨진 비용
특별히 언급하고 싶은 부분입니다. 이에 대해 이야기하는 사람이 거의 없기 때문입니다.
AI의 Tokenizer는 영어를 기반으로 설계되었습니다. 영어 단어는 보통 1개의 Token으로 처리되지만, 한국어 글자의 분절 방식은 완전히 다릅니다.
현재 주류 Tokenizer의 실측 결과에 따르면, 한국어 한 글자는 약 13개의 Token으로 분할됩니다. 평균적으로, 같은 의미의 내용에서 한국어의 Token 소비량은 영어의 약 1.52.5배입니다.
이것이 의미하는 바는 무엇일까요?
Claude Sonnet 4.6(입력 $3.00 / 백만 Token)으로 1,000자 분량의 텍스트를 처리한다고 가정하면:
- 영어 1,000단어는 약 750 Token -> 약 $0.00225
- 한국어 1,000자는 약 1,500~2,000 Token -> 약 $0.0045 - $0.006
한국어 사용자는 일종의 ‘언어 세금’을 내는 셈입니다. 같은 작업에 비용이 두 배 이상 들 수 있습니다.
좋은 소식은, DeepSeek처럼 동아시아 언어의 분절을 전문적으로 최적화한 모델은 Token 효율이 훨씬 좋다는 것입니다. 모델을 선택할 때 가격과 성능 외에도 분절 효율은 비영어권 사용자가 반드시 고려해야 할 요소입니다.
암호화폐 투자자가 이것을 이해해야 하는 이유
가격 세부 사항을 이렇게 많이 이야기했는데, 투자와 도대체 무슨 관련이 있을까요?
관건은 ‘컴퓨팅 파워 수요’입니다.
모든 AI 추론 호출 뒤에는 GPU가 연산을 수행하고 있습니다. 전 세계에서 매일 수십억 건의 AI API 호출이 이루어지며, 매번 컴퓨팅 파워를 소비합니다. 이 수요는 실제적이고 정량화 가능하며, 내러티브로 부풀려진 것이 아닙니다.
Bloomberg 보도에 따르면, Anthropic 한 회사만 해도 2026년 연간 매출이 약 200억 달러에 달합니다. OpenAI도 같은 수준입니다. 이 매출의 상당 부분은 API 호출의 Token 비용에서 나옵니다. 바로 우리가 방금 살펴본 가격표들입니다.
이 논리를 연결하면 다음과 같습니다:
AI 추론 수요 성장 -> GPU 컴퓨팅 파워 수요 성장 -> NVIDIA 등 칩 기업 수혜 -> 탈중앙화 컴퓨팅 네트워크(Render, Akash, io.net)의 수요도 함께 상승.
그리고 흥미로운 추세가 하나 있습니다. AI 추론의 단가는 하락하고 있지만(Opus 4.6이 Opus 4보다 67% 저렴), 총 수요량의 성장 속도는 단가 하락 속도를 훨씬 앞지릅니다. 이는 인터넷 대역폭의 발전과 비슷합니다. 가격이 저렴해질수록 사용량이 늘어나고, 전체 시장은 오히려 더 커집니다.
따라서 ‘AI 추론 비용이 또 내렸다’는 뉴스를 보더라도 직감적으로 악재라고 판단하지 마세요. 비용 하락은 더 많은 사람이 사용할 수 있게 된다는 뜻이며, 수요는 오히려 폭발적으로 성장합니다.
마치며
저는 매일 아침 일어나서 컴퓨터를 켜면, 7개 AI Agent의 상태 보고서가 이미 기다리고 있습니다.
보고서를 확인하고, 의사결정을 하고, 작업을 배분합니다. 이 모든 것의 이면에는 Token이 흐르고 있습니다. 가끔 생각합니다. 지금 하는 일이 예전에 온체인 거래 데이터를 분석하던 것과 비슷하다고. 둘 다 일종의 ‘흐름’을 보는 것입니다. 하나는 코인이 흐르고, 하나는 Token이 흐릅니다.
AI의 Token 경제는 아직 매우 초기 단계입니다. 가격 전략이 변하고, 모델이 진화하고, 오픈소스와 상용의 경계가 모호해지고 있습니다. 하지만 한 가지 확실한 것은 이러한 가격 구조를 이해하면 대다수 사람보다 더 정확하게 AI 산업의 실제 수요 규모를 판단할 수 있다는 것입니다.
AI 애플리케이션을 개발하고 있든, AI 관련 투자 대상을 평가하고 있든, Token 가격은 가장 근본적이고 가장 솔직한 신호입니다.