Parameter 줄이기

합성곱 여러번 하기.

7x7 크기의 이미지에 3 * 3필터를 통해 합성곱 하게되면 5 * 5 크기가 되고 이를 한번 더 3 * 3필터를 통과하면 3 * 3 크기로 줄어들게 된다.
이 때 Parameter는 3x3x2 = 18 개의 업데이트가 필요하게 된다.

7x7 크기에 5 * 5필터를 통해 합성곱 하게 되면 3 * 3 크기로 한 번에 줄어들지만 Parameter는 5x5 = 25 개로 위에서 3 * 3필터를 두 번 진행했을때 보다 더 많은 업데이트가 필요하다. 이러한 Parameter의 개수가 중첩되면 업데이트 속도가 느려진다. 작은 크기의 필터를 여러번 사용하는게 더 효율적일 수 있다.

합성곱 여러번을 통해 Parameter를 줄인 VGG-16 구조