#Cost Function (ongoing)

써니·2021년 1월 3일
0
  • linear regression - 예측값(by hypothesis)과 실제값의 차이 (error) 최소화

코세라 강의에서 배운 것은 linear regression에서의 cost fuction : MSE에 미분 계산 편의를 위해 1/2를 붙인 것

  • 일반적 error의 기준: MSE or MAE

  • MAE (mean absolute error)

  • "Error의 척도" : cost function
    MSE: error가 정규 분호의 특성을 보일 때 적합, Outlier의 영향을 많이 받음, Gradient Descent방식에서 최저점 수렴 ok
    MAE: Outlier의 영향을 많이 받음, 기울기가 일정하기 때문에 최저점으로 수렴하지 않을 가능성

Error의 척도: Cost/Loss Function

  • huber function, log-cosh function, quantile function, ...

Outlier란
: 일반적인 데이터 패턴과 다르게 이상한 패턴을 지니고 있는 데이터
머신러닝과 딥러닝에서 이런 Outlier에 의해 성능이 좌우됨 -> Outlier dection 이 중요함!

  • Outlier Detection - IQR (Inter Qunatile Range)
    : 사분위 값의 편차를 이용함

참고
https://brunch.co.kr/@tristanmhhd/14
https://lsjsj92.tistory.com/556

0개의 댓글