로지스틱 회귀를 사용해 고양이 분류기를 만들어보자!
은닉층이 1개인 신경망을 만들어보자!
좋은 신경망을 만드려면 초기화를 잘 해야한다. 여러 가지 초기화를 해보고 결과를 살펴보자.
과적합을 막기 위해 정규화를 해보자
경사 검사를 구현해보자
경사하강법의 update rule은 다음과 같다.for $l = 1, ..., L$: $$ W^{l} = W^{l} - \\alpha \\text{ } dW^{l}$$$$ b^{l} = b^{l} - \\alpha \\text{ } db^{l}$$SGD(Stochast