Perceptron - 퍼셉트론과 단순 논리 회로

Yves (Taeyeon Kim)·2021년 11월 15일
0

Deep Learning

목록 보기
1/3

1. Perceptron

(단순)퍼셉트론이란, 다수의 신호를 입력으로 받아 하나의 신호를 출력한다.
퍼셉트론은 딥러닝 신경망의 기원이 되는 알고리즘이다.
퍼셉트론에서 신호란, 전류의 흐름을 생각하면 비슷한 맥락에서 이해하기가 쉽다.
퍼셉트론은 신호를 통해 정보를 앞으로 전달하며 정보의 흐름을 만드는데, 이때 신호는 '흐른다(1)', '안흐른다(0)'의 두 가지 값을 가진다.

(그림출처)
위 그림은 입력으로 2개의 신호를 받은 퍼셉트론의 예이다.

x1x_1, x2x_2: 입력 신호
yy: 출력 신호
w1w_1, w2w_2: 가중치(weight)

입력 신호가 각 뉴런(이하 노드)에 전달될 때, 각각 고유한 가중치가 곱해진다.
또한, 가중치가 곱해진 값들의 합인 가중합이 특정 한계를 넘어설 때 '1'을 출력한다.(이를 '뉴런이 활성화한다'라고 표현하기도 한다)
그 한계를 '임계값'이라 하며, θ\theta기호 (theta, 세타)로 나타낸다.

y = {0(w1x1+w2x2θ)1(w1x1+w2x2>θ)\begin{cases} 0 &(w_1x_1 + w_2x_2 \le \theta)\\ 1 &(w_1x_1 + w_2x_2 > \theta) \end{cases}

w1x1+w2x2w_1x_1 + w_2x_2 : 가중합(weighted sum)
퍼셉트론의 가중치가 클수록 강한 신호를 흘려보낸다.


2. Logic gate

2.1. AND GATE

AND 게이트 진리표
x1x_1x2x_2yy
000
100
010
111

AND 게이트를 퍼셉트론으로 표현하고자 한다면, 위 진리표를 만족시키는 w1w_1, w2w_2, θ\theta 값을 정하면된다.
예를 들어 (w1w_1, w2w_2, θ\theta) = (0.4, 0.4, 0.7) or (0.5, 0.5, 0.9) or (1.0, 1.0, 1.0) 인 경우에 모두 AND 게이트 조건을 만족한다.
즉, 매개변수를 이렇게 설정했을 때 x1x_1x2x_2가 모두 1일 때만 가중 신호의 총합이 임계값을 넘는다.

2.2. NAND GATE & OR GATE

NAND 게이트 진리표
x1x_1x2x_2yy
001
101
011
110

NAND는 Not AND이고, 이 의미는 AND 게이트 출력을 뒤집은 것이다.
위의 AND 게이트에서는 x1x_1, x2x_2가 모두 1일때만 1을 출력했지만 NAND는 그 반대로 x1x_1, x2x_2가 모두 1일때는 0을 출력하고, 나머지는 모두 1을 출력한다.
AND 게이트의 모든 매개변수 부호를 반전시키면 NAND 게이트가 된다.

앞서 AND 게이트의 예로 든 매개변수의 부호만 바꾸면 NAND 게이트 진리표를 만족
(w1w_1, w2w_2, θ\theta) = (0.4, 0.4, 0.7) or (0.5, 0.5, 0.9) or (1.0, 1.0, 1.0)
==> (w1w_1, w2w_2, θ\theta) = (-0.4, -0.4, -0.7) or (-0.5, -0.5, -0.9) or (-1.0, -1.0, -1.0)

OR 게이트 진리표
x1x_1x2x_2yy
000
101
011
111

OR 게이트는 입력 신호(x1x_1, x2x_2) 중 하나 이상이 1값을 가지면 1을 출력한다.


매개변수를 정하는 것은 컴퓨터가 아닌 인간이고, 직접 진리표라는 '학습 데이터'를 보면서 매개변수 값을 정한다.
'기계학습(Machine learning)'이라는 것은 이 매개변수를 인간이 아닌 컴퓨터가 알아서 정하도록 하는 것을 말한다.
즉, 학습이란 적절한 매개변수를 정하는 과정이라고 할 수 있다.
퍼셉트론의 구조는 AND, NAND, OR 게이트에서 모두 동일하고, 각 게이트에서 상이한 것은 매개변수(가중치, 임계값)다.



(DeepLearingfromScratch밑바닥부터시작하는딥러닝(사이토고키))\Bigg(Deep Learing from Scratch - 밑바닥부터 시작하는 딥러닝 (사이토 고키) \Bigg)
도서를 참고하여 공부한 내용을 정리한 것입니다.

last modified : 16-11-2021

0개의 댓글