NLP

1.[NLP] BertAdam optimizer 의 개념 & Adam 과의 차이점 정리!

post-thumbnail

Hi! I'm Jaylnne. ✋오늘은 BERT 모델을 공부하던 중 BERTAdam이라는 독특한 옵티마이저(optimizer)를 접하게 되어서 이것에 대해 정리해보고자 글을 써보기로 했습니다.아래 huggingface 깃헙 링크에 BERTAdam 뿐만 아니라 pytor

2022년 5월 6일

2.⚡Pytorch Lightning 으로 koBERT Fine-Tuning 해보기 (NSMC)

post-thumbnail

Hi! I'm Jaylnne. 🖐코드는 아래 Github 레포에! 👇👇👇\[Github] jaylnne/nsmc-bert-pytorch_lightningPytorch Lightning 이란 Pytorch 에 대한 High-level 인터페이스를 제공하기 위한 라

2022년 5월 6일