이미지 데이터 처리를 위한 CNN 완벽 가이드 - Transfer Learning

사전 학습된 CNN(특성 추출)을 이용한 학습

 - 작은 데이터셋에 딥러닝을 적용하는 가장 효과적인 방법은 사전 학습된 모델 사용

 - 새로운 문제가 학습된 데이터와 큰 차이가 있더라도 많은 비전 문제에 유용

 - 사전 학습된 모델(VGG16)을 이용하여 작은 데이터셋을 통한 학습을 진행

 - 특성 추출(Feature Extraction) : 사전에 학습된 네트워크의 표현을 사용해 새로운 샘플에서 중요한 특성을 뽑아내는 것

 

Transfer Learning(전이 학습)

 - Fine Tunning(미세조정)이라고도 부름

 - 사전에 학습된 네트워크에서 뽑아낸 특성을 사용하여 분류기 부분만 처음부터 훈련

 - 특성 추출 모듈의 필터에 학습된 표현은 일반적이어서 재사용 가능

 - 합성곱 층에서 추출한 표현의 일반성(재사용성)의 수준은 모델에 있는 층의 깊이에 달려 있음

 - 모델의 하위 층은 엣지, 색깔, 질감 등과 같이 일반적인 특성을 추출

 - 상위 층은 '강아지 눈', '고양이 귀', 같이 추상적이고 고유한 특성을 추출

 - 새로운 데이터셋이 기존 모델의 훈련된 데이터셋과 많이 다르면, 모델의 하위 층 몇 개만 특성 추출에 사용하는 것이 좋음