태그 목록
- 전체보기(18)
- DeiT(4)
- CNN(3)
- NLP(3)
- transformer(3)
- VISION(2)
- LLaMA(2)
- 파이토치(2)
- Distillation(2)
- instruction tuning(2)
- ViT(1)
- PyTorch(1)
- 딥러닝(1)
- Model Serving(1)
- ML(1)
- image_classification(1)
- 허깅페이스(1)
- 서비스 성능(1)
- 모델배포(1)
- finetuning(1)
- CoT(1)
- 데이터로더(1)
- DL(1)
- VGG16(1)
- 에러(1)
- Inductive Bias(1)
- 비전(1)
- 모델변이테스트(1)
- django(1)
[DeiT 관련 논문 리뷰] 04-Training data-efficient image transformers & distillation through attention(DeiT)
이번 글에서는 Training data-efficient image transformers & distillation through attention(2021)을 리뷰하겠습니다. DeiT 관련 논문 리뷰의 마지막 글이며, DeiT를 소개합니다.DeiT의 특징은 크게 두
2023년 5월 2일
·
3개의 댓글·
3
[DeiT 관련 논문 리뷰] 02-Distilling the Knowledge in a Neural Network
이번 글에서는 Distilling the Knowledge in a Neural Network(2015)을 리뷰하겠습니다. 본 논문에서는 teacher 모델의 지식을 student 모델에게 전달하는 방법을 제시합니다. 이 방법을 통해 학습한 student 모델이 te
2023년 4월 11일
·
3개의 댓글·
3