GPU 환경 세팅 (cuda, cudnn)

GPU : NVIDIA GeForce RTX 3060

환경 : Window

cuda cudnn 설치

참고자료
알맞는 cuda버전은 'nvidia 3060 cuda'등으로 구글링을 통해 찾았다.
내 GPU(NVIDIA GeForce RTX 3060)에 맞는 버전은 다음과 같았다.

cuda : 11.7
cudnn : 8.4

※ pip를 사용할 경우 pytorch 세팅
Pytorch 공식 문서 확인

pip3 install torch==1.9.0+cu111 torchvision==0.10.0+cu111 torchaudio===0.9.0 -f https://download.pytorch.org/whl/torch_stable.html

anaconda cudnn 설치

conda activate [사용할 가상환경 이름]
conda install -c anaconda cudnn=[사용할 cudnn 버전]
conda install -c anaconda cudnn=8.2.1

# cudnn 버전 확인
cat "c:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/v11.7/include/cudnn_version.h" | grep "define CUDNN_MAJOR" -A 2

로컬에 이미 cudnn을 설치했는데, 가상환경 내에서도 또 cudnn을 설치하는게 과연 맞는건지 기억이 나질 않는다.
알게 되면 수정 필요.

NVIDIA Driver 설치

완본체 데스크탑의 Local 환경에선 NVIDIA Driver가 이미 설치되어 있지만 GPU 서버를 이용할 땐 설치가 안되어 있을 수 있다.
내가 처음이자 마지막으로 사용해본 GPU 서버인 Naver cloud (Tesla-P40)에선 그랬다...
사용할 cuda 버전에 맞는 NVIDIA Driver를 설치해야 하는데, NVIDIA 공식 홈페이지에서 확인할 수 있다.

설치 방법은, 나중에 설치할 일이 또 생겼을 때 추가하자.
window에선 쉬웠는데 ubuntu에선 며칠 걸렸던 것으로 기억한다.

기타

cuda 버전 체크
nvcc -V와 nvidia-smi의 cuda 버전이 다르게 나오는 이유