# Vanishing gradient

6개의 포스트
post-thumbnail

Problem Setting and Regularization

training을 하기 위해서 결정해야 할 것들이 정말 많지만 각 hyperparameter 사이에 dependency가 있기 때문에 guess가 매우 어렵다. 그렇기 때문에 실제로 machine learning은 굉장히 반복적인 작업이다. Dataset 좋은 cho

2022년 4월 17일
·
0개의 댓글
post-thumbnail

Activation Functions

Activation Functions logistic regression에서 linear transformation 결과에 적용한 non-linear transformation인 sigmoid함수가 activation function에 해당된다. activation f

2022년 4월 16일
·
0개의 댓글
post-thumbnail

모두를 위한 딥러닝 시즌 1 :: ML lec 10

Activation Function Activation Function : 특정 값을 넘어가거나 도달하면,

2021년 7월 12일
·
0개의 댓글
post-thumbnail

[CS224n] Lecture 7 - Vanishing Gradients And Fancy RNNs

작성자 : 투빅스 13기 최혜빈 > Contents Vanishing gradient problem LSTM GRU More fancy RNN variants Vanishing gradient problem Remark) Backpropagation for RNNs

2020년 12월 31일
·
0개의 댓글