하이퍼파라미터(Hyperparameter) 튜닝
- 수작업
- Grid Search
- Random Search
- Bayesian Methods
K 폴드 교차검증
- K개의 데이터 폴드 세트를 만들어 K번 만큼 각 폴드 세트에 학습과 검증 평가를 반복적으로 수행하는 방법
ex)
- 1~4번째 등분을 학습 5번째를 검증 데이터세트로 설정하고 평가 수행
- 4번째를 검중 나머지는 학습
- 위와 같은 방식으로 5번 진행
Key word check
- Activation Functions(활성화 함수)
- Optimizer(옵티마이저)
- Number of Layers
- Number of Neurons
- Batch Size(배치 사이즈)
- Dropout(드롭아웃)
- Learning Rate(학습률)
- Number of Epochs