파인튜닝란?
사전 훈련된 LLM을 특정 도메인 데이터로 추가 훈련시켜 특정 작업에 특화시키는 기술입니다. 처음부터 훈련하는 것보다 훨씬 적은 데이터와 연산 자원으로 가능합니다. 안정적인 출력 형식이나 전문 지식이 필요한 경우에 적합하지만, 비용은 RAG보다 높습니다. 예를 들어, 의료 분야 LLM을 만들 때 의학 논문 데이터로 파인튜닝하면 일반 LLM보다 훨씬 정확한 진단 보조가 가능합니다.
사전 훈련된 LLM을 특정 도메인 데이터로 추가 훈련시켜 특정 작업에 특화시키는 기술입니다. 처음부터 훈련하는 것보다 훨씬 적은 데이터와 연산 자원으로 가능합니다. 안정적인 출력 형식이나 전문 지식이 필요한 경우에 적합하지만, 비용은 RAG보다 높습니다. 예를 들어, 의료 분야 LLM을 만들 때 의학 논문 데이터로 파인튜닝하면 일반 LLM보다 훨씬 정확한 진단 보조가 가능합니다.