Training loss가 점점 낮아지는데 Validation loss가 높아지는 시점이 있는데, 이러한 현상을 과적합 현상이라고 하고, 우리가 풀어야하는 문제의 난이도에 비해 모델의 복잡도가 클 경우 가장 많이 발생한다.
(ex 모의고사의 정답을 달달 외워서 모의고사는 100점을 받는데, 실제 수능을 보면 틀리는 문제가 더 많은 경우)
위 경우와 반대로 우리가 풀어야 하는 문제의 난이도에 비해 모델의 복잡도가 낮을 경우 문제를 제대로 풀지 못하는 현상을 과소적합이라고 한다.
따라서 적당한 복잡도를 가진 모델을 찾아야 하고 수십번의 튜닝 과정을 거쳐 최적합의 모델을 찾아야한다.