[AI Math] 베이즈 통계학

조건부 확률

• 베이즈 통계학을 이해하기 전 조건부확률의 개념을 이해해야 한다.

• 조건부확률 $P(A|B)$는 사건$B$가 일어난 상황에서 사건$A$가 발생할 확률을 의미한다.

구체적인 예시

• $\mathcal{D}$ : 새로 관찰하는 데이터

• $\theta$ : 모델링 하려는 이벤트, 계산하고자 하는 파라미터(모수)

• $P(\theta|\mathcal{D})$ : 사후확률(posterior), 데이터가 주어져있을 때, 파라미터가 성립할 확률을 의미한다. 데이터를 관찰한 이후 발생한 확률이기 때문에 사후 확률이라 한다.

• $P(\theta)$ : 사전확률(prior), 데이터가 주어지지 않은 상황에서 사전에 주어진 확률을 의미한다. 데이터를 분석하기 전 여러가지 모수, 파라미터, 가설 등을 사전에 설정하는 확률

• $P(\mathcal{D}|\theta)$ : 가능도(likelihood), 현재 주어진 파라미터에서 해당 데이터가 관찰 될 확률

• $P(\mathcal{D})$ : 증거(evidence), 데이터 자체의 분포

• 베이즈 정리를 통해 새로운 데이터가 들어왔을 때 앞서 계산한 사후확률을 사전확률로 사용하여 갱신된 사후확률을 계산할 수 있다.