GPT와 딥러닝 공부를
1.Scheduler와 Optimizer 차이
옵티마이저 (Optimizer):옵티마이저는 주로 그래디언트 기반 최적화 알고리즘을 사용하여 모델의 파라미터를 업데이트합니다. Adam, SGD, RMSprop 등이 일반적인 옵티마이저입니다. 옵티마이저의 주요 목적은 손실 함수를 최소화하는 방향으로 모델의 파라미터를
2024년 2월 5일
옵티마이저 (Optimizer):옵티마이저는 주로 그래디언트 기반 최적화 알고리즘을 사용하여 모델의 파라미터를 업데이트합니다. Adam, SGD, RMSprop 등이 일반적인 옵티마이저입니다. 옵티마이저의 주요 목적은 손실 함수를 최소화하는 방향으로 모델의 파라미터를