[U] Week 2 Day 3

1. 강의 복습 내용

• 목표 :
  - 기본 과제 1 : PyTorch Documentation 활용 & Custom Model 제작 (with 🦆부덕이) 마무리하기
  - 기본 과제 2 : Custom Dataset 및 Custom DataLoader 생성 완료하기
  - PyTorch 강의 2개 듣기
  - 퀴즈 풀기
• 결과 :
  - 기본 과제 1 (O)
  - 기본 과제 2 (△)
  - PyTorch 강의 2개 듣기 (O)
  - 퀴즈 풀기 (O)

2. 피어 세션

[ 데일리 스크럼 ]

• 학습 목표 공유
• 각 주마다 진행할 contents
  - 월 : 수학(Deep Learning 책) 2 chapter씩 리뷰
  - 화, 금 : Standford NLP 강의 cs224n (1주일에 2개)
  - 수, 목 : 해당 주차 강의와 과제에 대해 토의
• 경쟁력을 갖기 위해서는 각자의 차별화된 전문 분야를 정하면 좋을 것!

[ 피어 세션 ]

• 팀 내 회의로 멘토님께 더 많은 질문을 준비해서 더 보람찬 시간으로 만들어볼 수 있을 것!
  → 우리의 팀의 needs?
• 과제 진행상황 공유
  → AG News 데이터셋 : Iterable Wrapper 관련 오류 해결
• 팀별 회고록 작성 시, 개인별 질문 답변 → 질문별 개인 답변으로 변경 제안

3. 공부를 하며 고민한 내용, 고민 결과

[ PyTorch의 buffer는 뭘까? ]

• 모델에 저장해야 할 매개 변수는 2가지를 포함

1. 역전파의 결과로 optimizer에 의해 업데이트 되어야 하는 `parameter`
→ gradient 계산, 값 업데이트 (O)
→ `model.parameters()`로 return


2. 역전파의 결과로 optimizer에 의해 업데이트 되지 않아도 되는 `buffer`
→ `model.buffers()`로 return
→ gradient 계산, 값 업데이트 (X)
(ex) 사용되는 예시 : BatchNorm’s `running_mean`

• 참고 : https://intrepidgeeks.com/tutorial/parameters-of-pytoch-model-and-buffer-usage

4. 1st 두런두런(Do Learn, Do Run!)

• 부스트캠프 참가하기 전부터 링크드인과 어쩐지 오늘은 블로그를 통해 너무 만나뵙고 싶었던 변성윤 마스터님을 처음 보게 된 날.. 너무 너무 만족스러웠음!!

5. 회고 🦆

• 오늘의 모더레이터 : 윤호님
• 피어 세션 활동을 지속적으로 개선하기 위해 팀 내 소통이 활발하여 매우 만족
• 요일별 해야할 내용을 고정했고, 학습량이 많아질수록 더 보람찬 시간이 될 것 같다는 기대감
• 내일 예비군 동원 훈련 일정으로 과제 2를 다 끝마치지 못하고 제출해서 너무 아쉬웠음
  → 주말동안 마무리 + 오피스 아워 복습을 통해 내 것으로 만들기!!