Logistic Regression

1. Logistic Regression

• 분류 문제는 0 또는 1로 예측해야 하나 Linear Regression을 그대로 적용하면 예측값 $h_{\theta}(x)$는 0보다 작거나 1보다 큰 값을 가질 수 있다.
• $h_{\theta}(x)$가 항상 0 ~ 1을 가지는 모델
  $g(z) = \frac{1}{1 + e^{-z}}$
  

분류 문제용 hypothesis

Decision Boundary1

Decision Boundary2

Cost Function

Learning 알고리즘은 동일

• 수렴할 때까지 반복
• $\alpha$ : 학습률(learning rate)
  $\theta := \theta - \alpha\frac{d}{d\theta}J(\theta)$

Reference
1) 제로베이스 데이터스쿨 강의자료