# ELU

총 3개의 포스트
post-thumbnail

Activation Functions

Activation Functions logistic regression에서 linear transformation 결과에 적용한 non-linear transformation인 sigmoid함수가 activation function에 해당된다. activation f

Activation FunctionsDeep LearningELULeaky ReLuNeural NetworkPReLuReLUTanhVanishing gradientsigmoid
2022년 4월 16일
·
0개의 댓글
·
post-thumbnail

[Aiffel] 아이펠 33일차 개념 정리 및 회고

1. 딥러닝 개념 정리 2. cs231n 6강 정리 3. 회고

Batch NormalizationELULeaky ReLuPReLuReLUTanhVanishing gradientWeight Initializationcross-validatoingrid searchrandom searchsigmoid가중치 초기화국비교육딥러닝아이펠파이썬퍼셉트론활성화 함수
2022년 2월 13일
·
0개의 댓글
·
post-thumbnail

[딥러닝] 성능향상(활성함수)

입력값과 가중치를 곱해주고 활성함수를 위한 b(bias)를 더해준 값을 활성함수에 입력함활성함수는 입력에 가중치가 곱해서 나온값의 정도를 결정해서 다음으로 넘겨줌!선형함수에서 ReLU까지 활성함수가 발전해온 과정sigmoid와 계단함수 같은 경우 값이 너무 작거나 너무

ELUReLUTanhsigmoid딥러닝로지스틱시그모이드활성함수
2021년 7월 7일
·
0개의 댓글
·