LLM
1.HiFi: High-Information Attention Heads Hold for Parameter-Efficient Model Adaptation
LLM (본 논문에서는 PLMs)은 large scale of parameters 가진다➡ Data-Scarce & Resource-Limited 상황에서 InefficientCatastrophic forgetting issues Limited storage infra
2024년 1월 12일