Binary Classification

• 두 클래스 중 하나의 클래스로 분류하는 것은 기본적인 머신러닝 문제이다.
• 고객의 구매여부, 스팸 또는 사기 메일인지에 대한 여부, 질병 유무 여부, 고양이인지 강아지인지 구분

accuracy와 cross entropy

• 정확도는 분류문제에서 성공을 측정하는 척도 중 하나
• accuracy = 정확한 예측 / 예측한 데이터 수
• 손실함수로 사용할 수 없음
• 교차 엔트로피는 분류에서 손실함수를 대신할 척도

회귀와 분류의 차이

회귀

• SGD(Stochastic Gradient Descent)손실함수 사용
• 예측값과 실제값과의 차이를 최소화하는 것이 목표
• 예측값과 실제값의 차이는 MAE 값을 거리로 측정

분류

• 손실함수 대신 교차 엔트로피 사용
• 엔트로피는 확률간의 거리

Making Probabilities with the Sigmoid Function

• arruracy와 cross entropy는 모두 input으로 0~1의 확률을 필요로 한다

• Dense layer에서 생성된 실수 값 출력을 확률로 변환하기 위하여 활성화 함수 사용

• 대표적으로 sigmoid를 활성화함수로 사용

• 최종클래스 예측을 위해 임계 확률을 정의

• 임계값의 기본값은 0.05.

---

참고

• https://www.kaggle.com/code/ryanholbrook/binary-classification