편향(Bias) : 지나치게 단순한 모델로 인한 error
분산(Variance) : 데이터 셋 별로 모델이 얼마나 일관된 성능을 보여주는가
편향이 높은 모델은 너무 간단해서 주어진 데이터의 관계를 잘 학습하지 못한다.
편향이 낮은 모델은 주어진 데이터의 관계를 잘 학습한다.
모델의 과대적합을 방지해주는 방법 중 하나
가설 함수의 세타값들이 너무 커지는 것을 방지하여 과대적합을 예방하는 방법
새로운 기준 : training data에 대한 오차도 작고, 세타 값들도 작아야지 좋은 가설 함수다
왜 세타0은 들어가지 않는가?
- 과적합과 상관이 없는 항이기 때문
람다 → 세타의 값에 대한 패널티
본 포스트는 코드잇 강의를 공부하며 정리한 내용입니다! 자세한 설명은 "코드잇 머신러닝 강의를 참고해주세요!