[Machine Learning] 인공 신경망 ,ANN (artificial Neural Network)의 이해

인공신경망의 정의

인공 신경망은 단어 그대로 사람의 신경망 형태를 구조화한 것입니다.

어라? 뭔가 어디서 많이 본거 같지 않나요?
맞습니다. 퍼셉트론(다층 퍼셉트론)과 많이 같습니다.
사실상 저 모습은 같다고 생각해도 될거같아요.

인공 신경망과 다층 퍼셉트론의 차이

위의 그림만보면 다층 퍼셉트론과 인공신경망사이에는 아무런 차이점이 없습니다.
하지만 인공 신경망이 다층 퍼셉트론의 발전형이니 매우 중요한 차이점이 있습니다.
그것은 활성함수 입니다.

위의 사진은 인공 신경망의 모습입니다.

해당 사진은 퍼셉트론의 모습입니다.

퍼셉트론에서는 계단 함수라는 함수만을 이용하는데 반하여, 인공 신경망은 여러 활성함수를 사용할수 있습니다.

"활성함수"을 사용하면 어떤 장점이 있을까요?

활성함수의 장점

활성함수에는 여러 종류가 있지만 모든 활성함수는 비선형 함수입니다.
왜일까요?

y= xW

여기 선형함수가 있습니다.
해당 함수에 활성 함수로 선형함수를 사용해보겠습니다.

y = W(xW)
y = W(W(xW))

계속 선형함수를 쌓게 되면 계속 같은 값만 나오게 됩니다.
그러므로 선형함수를 계속 쌓기 보단 하나의 선형함수만 사용하는 것이 더 효율적입니다.
그렇기에 활성함수는 비선형 함수를 사용하는 것입니다.