오차역전파법4

Amps93·2024년 3월 13일
0

밑바닥 딥러닝

목록 보기
10/11

Affine 계층

딥러닝에서 Affine 계층은 순전파시 행렬 곱을 수행하는 계층을 의미

affine 계층에서의 순전파/역전파 계산 그래프

Affine 계층에서 행렬 곱에 대한 역전파는 순전파시 입력 신호를 서로 바꾸어 곱셈

Softmax-with-Loss 계층

입력 신호가 전달되는 과정

소프트맥스와 크로스엔트로피를 함께 사용하는 이유

역전파의 결과가 y-t 로 깔끔하게 떨어짐 → 크로스엔트로피 함수가 그렇게 설계되었기 때문

profile
머신러닝 개발자

0개의 댓글