CNN - Convolution (Boost Cource DL Lecture 7)

Convolution

도장과 비슷한 느낌

Blur, Outline 등의 결과가 도출 됨

RGB Image Convolution

RGB Color 개수마다 convolution filter가 생성

Stack of Convolutions

Convolution을 여러번 할 수 있음
Convolution의 element별로 Relu 등 activation function을 적용

CNN

Convolution layer에 pooling layer를 합쳐서 decision을 making 해주는 FCN의 구조로 이루어진 neural network가 고전적인 CNN

최근에는 FCN을 최소화하거나 없애는 추세
WHY? FCN은 parameter가 많아 Generalize에 어려움이 있기 때문

Stride

커널을 stride 개수의 픽셀마다 적용
stride가 1이면 커널을 적용하고 하나의 픽셀을 이동한다는 것

Padding

Boundary에도 커널을 적용하기 위해 어떤 값을 넣어 주는 것
zero padding = 0으로 덧대주는 것

Parameter 개수 구하기

kernel의 크기는 channel의 크기와 같음
즉 kernel 이 n x n이면 n x n x C
여기에 바뀐 channel의 개수만큼이 필요하니
총 n x n x inout C x output C 가 parameter 개수

FCN, dense layer의 parameter 개수는 input * output
따라서 parameter가 너무나 커지는 효과..

1 x 1 convolution

width와 height는 그대로지만 channel만 변경