[AI] 파인튜닝(Fine-tuning)

---

1.파인튜닝(Fine-tuning)

사전 훈련(Pre-training)된 모델을 특정 작업에 맞게 조정,
이미 학습된 모델을 특정한 작업에 맞게 추가로 학습시키는 과정을 말한다.
일반적인 지식을 특정 도메인, 데이터셋, 또는 과업에 맞게 세부적으로 조정하는 데 사용된다.

모델이 가지고 있는 일반적인 지식을 특정 도메인, 데이터셋, 또는 과업에 맞게 세부적으로 조정하는 데 사용된다. 이를 통해 모델의 성능을 높이고, 특정 목적에 최적화된 결과를 얻을 수 있다.

 

https://medium.com/@prasadmahamulkar/fine-tuning-phi-2-a-step-by-step-guide-e672e7f1d009

 

 

2.파인튜닝(Fine-tuning) 특징

2-1.사전 학습된 모델 활용

대규모 데이터셋으로 학습된 일반적인 모델을 기반으로 작업을 수행하여 초기 학습 단계의 시간과 자원을 절약할수있다.

 

 

2-2.도메인 특화 학습

특정 도메인의 데이터(의료, 법률, 금융 등)를 사용하여 모델이 해당 분야에 맞는 성능을 발휘하도록 학습시킬수있다.

 

 

 

 

2-3.소규모 데이터 활용

파인튜닝은 기존의 사전 학습된 지식을 활용하기 때문에, 비교적 적은 양의 데이터로도 효과적인 학습이 가능하다.