파라미터 수정 방법 3가지

Dreamer ·2023년 5월 14일
0

Machine Learning

목록 보기
1/3
  • 매개변수 그리드에서 가능한 모든 조합을 시도하여 최적의 매개변수를 찾아냄.
  • 직관적이고 이해하기 쉽지만, 가능한 모든 매개변수 조합을 탐색하므로 계산 비용이 매우 높을 수 있다.
  • 모든 조합을 탐색하기 때문에 정확한 최적의 매개변수를 찾아낼 수 있다.
  • 임의의 하이퍼파라미터 조합을 시도함.
  • Grid Search 방법에 비해 계산 비용을 줄일 수 있음.
  • 하지만 매개변수 공간의 일부를 평가하지 않을 수 있기 때문에, 최적의 매개변수를 찾을 가능성이 높지 않다.

3. Bayesian Optimization

  • 함수 값(모델 성능)이 일정한 범위 내에서 부드럽고 연속적으로 변화하는 경우에 사용하는 방법
  • 함수의 범위를 베이지안 통계 모델로 모델링하여 최적의 하이퍼파라미터 조합을 찾아낸다.
  • 계산 비용이 높지만 Randomized Search보다 더 효율적으로 최적의 하이퍼파라미터를 찾을 수 있다.
  • 함수 값이 부드럽고 연속적으로 변화하는 경우에 더 효율적으로 최적의 매개변수를 찾을 수 있다.
profile
To be a changer who can overturn world

0개의 댓글