Train/Dev/Test sets

Applied ML is a highly iterative process.

신경망을 학습할 때 많은 선택을 해야한다.

• layers
• hidden units
• learning rates
• activation functions

첫 번째 시도에서 이 모든것을 한번에 정확하게 맞추기란 굉장히 어렵다.
따라서 구체적인 아이디어(방법)을 제시하고 이를 학습에 적용하여 개선하는 방식은 굉장히 좋은 방식이다.
많은 전문가들이 이 같은 방법에 뛰어들고 있지만 어려운 작업이고, 현재 매우 반복적인 프로세스로 이루어진다.

이 반복 작업들을 효율적으로 하는 것이 굉장히 중요하고 train/dev/test dataset을 잘 설정하는 것은 중요하다.

Train/dev/test sets

Train/Dev/Test 의 핵심 내용

Make sure dev and test come from same distribution.

Not having a test set might be okay.(Only dev set)