드롭아웃 (1) 썸네일형 리스트형 Overfitting 문제 해결해보기 딥러닝기반의 학습을 이행하다보면, Overfitting (과적합)의 문제를 흔히 마주할 수 있다. 이는 너무 훈련된 데이터에만 최적화되어, 새롭게 마주하는 데이터에 예측성능이 저하됨을 뜻하며, 여러가지 Regularization(정규화) 기법들을 통해 어느 정도 보완이 가능함을 알아두자. 본 포스팅에서는 대표적인 정규화 기법인 Drop-out과 Batch Normalization에 대해서 집중 조명해보고자 한다. 먼저 학습 네트워크의 깊이를 약간 깊게 만들어주고 활성화함수로 ReLU를 사용함. 미니배치 형식으로 학습하되, 여러 정규화 기법 적용 전후를 비교해서 그것이 과연 실효적인 기법인지를 보고자한다. 먼저 Drop-out기법을 적용하고 학습을 다시 진행해 보았다. 학습의 결과는 기법의 전보다 Over.. 이전 1 다음
