Fine-tuning

Fine-tuning(미세조정)은 이미 사전학습된 모델을 특정 과제나 도메인에 맞게 추가로 학습하는 전이학습 방식이다. 처음부터 모든 표현을 새로 학습하는 대신 기존 모델이 가진 표현을 출발점으로 활용한다.

ULMFiT 연구는 사전학습 언어 모델을 텍스트 분류 과제에 적응시키는 일반적 미세조정 방법을 제시하고, 제한된 라벨 데이터에서도 전이학습의 효과를 평가했다.^[1] BERT 역시 사전학습 뒤 여러 자연어 처리 과제에 미세조정하는 흐름을 대표한다.

모델이 커질수록 전체 파라미터를 매번 업데이트하는 비용도 커질 수 있다. LoRA 같은 파라미터 효율적 기법은 미세조정 시 실제로 학습하는 파라미터 수를 줄이는 방향을 제시한다.