Week 3 - 8/19 목, 13일차 학습 정리

피어세션 정리

• 역할
  • 모더레이터: 준수
  • 발표자: 준수, 대웅
  • 회의록: 창한
• 발표

준수

• Back of Tricks for image classification with convolutional neural networks(https://arxiv.org/abs/1812.01187)에서 소개되었던 기법들을 간략하게 소개
  1. Cosine Learning Rate Decay
  2. Label Smoothing
  3. Knowledge Distillation
  4. Mixup Training

대웅

• 프로젝트를 위한 베이스라인 코드 및 실행 방법 제시
• 강의에서 소개되었던 PyTorch project template에 PyTorch Image Classification Tutorial을 적용하며 일부 수정
• 여기에 각자가 시도해볼 모델 및 실험 조건을 각자 시도해 볼 수 있을 것
• TODO: transforms 관리 기능 추가, Weights & Biases 기능 추가, 실험 관리 및 Hyper parameter search에 대한 고민

학습 회고