논리 회귀 (Logistic regression)
= Sigmoid function
선형회귀로 풀기 힘든 문제의 등장
ex) 0,1로 표현하는 Pass,Fail > 이진논리회귀(Binary logistic regression)로 해결 가능
확률적으로 나타낼 수 있음.
0과 1사이의 값이 되는데, 임의로 50%를 임계치(Threshold)를 정해서 80% 가능하다, 40% 불가능하다 로 표현가능.
Threshold는 임의로 정할 수 있기 때문에 Pass가 중요한 상황에서 높일 수 도 있음.
선형보다 S커브를 따르는 경우가 많다.
실질적인 계산은 선형회귀와 같지만, 출력값에 시그모이드 함수를 붙여 0~1 사이의 값을 가지도록 함.
logistic regresstion의 손실함수
CrossEntropy
확률분포 그래프의 차이를 줄여주는 함수.
선형그래프로 표현 안되는 것을 올바른 확률(정담)로 만들어 주려는 함수.
Cost function에서 나온 값을 최소화 하는 방향으로 학습시켜야 하고, logistic regression은 확률분포그래프의 줄이는 방향으로 학습을 시킨다. 그 역할을 하는 것이 CrossEntropy.
가보자고