[DL] #2. 퍼셉트론

1. 퍼셉트론(Perceptron)이란?

• 신경망(딥러닝)의 기원이 되는 알고리즘
• 다수의 신호를 입력 받아 하나의 신호를 출력

x1, x2 : 입력신호
y : 출력 신호
w1, w2 : 가중치
그림에서 원 : 뉴런 or 노드라고 함

• 입력신호가 다음 뉴런에 보내질 땐 각각에 고유한 가중치가 곱해져서 전달됨 (x1w1, x2w2)
• 뉴런에서 보내온 신호의 총합이 정해진 한계(=임계값 세타)를 넘어서면 1을 출력
  수식으로 표현하면,
  
• 가중치가 클수록 해당 신호가 더 중요하다는 뜻

2. 단순 논리 회로

가중치와 편향 도입하여 AND gate 수정
\theta를 -b로 치환하면 다음과 같이 식이 변경됨

여기서 b : 편향 (bias)

🌿 가중치와 편향의 역할

• 가중치 (w1, w2) : 각 입력 신호가 결과에 주는 영향력(중요도) 조절
• 편향 (b) : 뉴런이 얼마나 쉽게 활성화하는지를 조정하는 매개변수

4. 퍼셉트론 한계

• 퍼셉트론은 직선 하나로 나눈 영역만 표현할 수 있다는 한계가 있음
  (= 곡선은 표현할 수 없음)

5. 다층 퍼셉트론

• 퍼셉트론은 XOR 게이트를 표현 못함

• 퍼셉트론의 장점 - 층을 쌓을 수 있다
  => 퍼셉트론의 #층을 쌓아 구현한 '다층 퍼셉트론'으로 XOR 게이트 구현 가능!
  

• 가중치 갖는 층 수만 셈 => 위에껀 2층 퍼셉트론임

💡 단층 퍼셉트론으로 표현하지 못한 것을 다층 퍼셉트론으로 표현 가능함!

참고 자료