트랜스포머란?

2017년 Google이 제안한 딥러닝 아키텍처로, ‘어텐션 메커니즘’을 통해 단어 간 관계를 이해합니다. GPT, Claude, Gemini 등 거의 모든 현대 LLM이 Transformer를 기반으로 합니다. 기존 아키텍처(RNN, LSTM)가 긴 텍스트를 처리하지 못하는 문제를 해결했으며, ‘Attention Is All You Need’ 논문으로 AI 역사를 바꿨습니다.