- 인공신경망(Artificial Neural Newworks, ANN) 등장 배경
- 인간의 뇌에 대한 연구가 발전하면서 인간의 뇌는 여러 개의 신경세포(뉴런)가 서로 연결어 있고, 이들이 병렬적으로 연산을 진행하면서 정보를 처리한다는 사실이 발견되었습니다. 좀 더 정확히 사람의 뇌 속에는 약 10의 11제곱개의 뉴런이 있고, 1개의 뉴런은 약 10의 3제곱 개의 다른 뉴런들과 연결되어 있다고 알려져 있습니다.
- 즉, 인간의 뇌속에는 약 10의 14제곱 개의 뉴런과 뉴런사이의 연결이 존재하고, 각각의 뉴런들은 서로 전기 신호를 주고 받으면서 연산을 수행합니다.
- 컴퓨터는 순차 처리 연산기, 컴퓨터도 인간의 뇌처럼 대량의 병렬 처리 연산을 수행하도록 만들면 컴퓨터도 인간이 쉽게 할 수 있는 인지행동을 할 수 있지 않을까?
- 퍼셉트론
- 1958년 Frank Rosenblatt이 발표한 “The perception: A probabilistic model for information storage and organization in the brain” 논문
- 입력층과 출력층
- 인풋 데이터 x를 받고, 이를 가중치 W와 곱한 후, 이 값을 바이어스 b를 더합니다. 이 값을 활성 함수 델의 입력값으로 대입해서 출력층은 최족적으로 0 또는 1의 값을 출력합니다.
- 즉 퍼셉트론은 입력값을 받으면 2개의 출력값 중 하나를 출력해내는 선형 이진분류기 입니다.
- 한계: 단순한 선형분류기에 불과, 따라서 간단한 XOR 문제도 해결할 수 없다는 사
- 다층 퍼셉트론 Multi-Layer Perceptron,MLP, 인공신경망(ANN)
- 퍼셉트론을 여러층 쌓아올린 것
- 선형 분리가 불가능한 문제도 해
- 입력층, 은닉층, 출력층으로 구성
- 다층 퍼셉트론에서 은닉층을 깊게 여러 번 쌓아 올린 형태를 깊은 인공신경망 Deep Neural Networks(DNN)이라고 부르고 이 구조가 우리가 일반적으로 딥러닝이라고 부르는 기법이다.
좋은 지식 나누어요