profile
플로우를 타자🌊

오버피팅 방지와 하이퍼파라미터 최적화

가중치 매개변수의 초깃값을 어떤 값으로 사용하는 지에 따라서 각 층의 활성화값의 분포가 달라지는데, 데이터가 넓게 적당히 분포되어야 활성화 함수가 제 역할을 더 잘 하게 되면서 효율적인 학습이 이루어진다. 가중치 매개변수 초기화처럼, 각 층의 활성화 분포 값을 적당히

2022년 5월 11일
·
0개의 댓글
·