Flash Attention을 설치할 때 환경에 따라 빌드가 되지 않는 경우가 있다.
필자의 경우에도 마찬가지였는데, 해결법은 단순했다.
CUDA 버전에 맞게 Pytorch 버전을 최신으로 맞추면 되는 문제였다.
NLP Researcher & ML Engineer @i-Scream Edu
Flash Attention을 설치할 때 환경에 따라 빌드가 되지 않는 경우가 있다.
필자의 경우에도 마찬가지였는데, 해결법은 단순했다.
CUDA 버전에 맞게 Pytorch 버전을 최신으로 맞추면 되는 문제였다.