[win10/RTX 3060] Local에 CUDA를 설치해 Deep Learning 환경 구성하기

CUDA, cuDNN, PyTorch 설치하기

0. 작성 기조

1. 나는 겉핥기로 뭐가 뭐가 필요한지 얼추는 알지만 각 요소가 무엇을 위한 건지 어떤 동작을 하는지 잘 모르는 상태이다. 왜 필요한지 어디 쓰이는지는 알고 설치하자는 마인드.

2. 모 교수님께서 "요즘 학생들은 면접 때 뭐 물어보면 위키피디아 첫줄에 나오는 설명은 아는데, 그보다 깊게는 잘 모른다"라는 식으로 작금의 세태에 대해 한탄하신 바 있다. 나는 시간 상(과제 제출) 여유가 없다. 존경하는 교수님이시지만, 죄송합니다.. 오늘은 그 위키피디아 첫 줄만을 아는 못난 학생이 되어 글을 작성하겠습니다.

1. 시작점

1. Conda는 설치되어있었고, DL이라는 이름으로 venv가 만들어져 있었다. numpy정도만 설치되어 있었다.

2. RTX 3060 설치되어있고, Win10 환경. nvidia-smi로 driver확인
   

3. 그래픽 드라이버란? -> 내 그래픽 카드가 OS-specific하게 작동할 수 있도록 하드웨어와 해당 OS를 연결해주는 역할을 한다.

4. nvidia-smi는 현재 그래픽 카드의 사용정보를 나타내는 command이다. 작년 부스트캠프서 많이 썼었다.

5. nvidia-smi의 CUDA는 추천하는 CUDA 버젼이다. 저게 설치된 게 아니고, 난 그걸 설치해야하는 상황.

6. CUDA와 cudNN그리고 PyTorch를 설치할 것이다.

2. CUDA 설치하기

1. device = torch.device('cuda:0' if torch.cuda.is_available() else 'cpu') 작년에 참 많이 보았는데, CUDA가 뭔지 제대로 몰랐다. 부끄럽다. CUDA는 Compute Unified Device Architecture의 약자이다. 이는 다시 GPGPU이다 라고 설명하는데, 이는, General-Purpose computing on Graphics Processing Units의 약자로, Graphics Processing Unit을 통한 범용 계산을 의미한다. 즉, GPU를 사용해 CPU가 하던 일들을 처리는 기술인 것이다.

2. GPU는 본디 그래픽 프레임을 연산해 내보내주는 역할을 하기 위해 존재하나, 딥 러닝에서 사용하는 Matrix 연산 등은 GPU를 통해 병렬 연산하는 것이 더 효과적이므로, CUDA를 통해 이런 범용 계산을 시키는 것이다.

3. PyTorch를 설치할 것이기에 PyTorch 설치 가이드를 참고했다. 다음과 같이 설치할 것이므로, 이에 맞춰서 CUDA를 설치하기로 했다. Driver도 CUDA 11.6을 권장하고 있으니 말이다. (작성 시점에서는 11.8이 최신)
   

4. 구 버젼이므로 아카이브를 통해 설치했다. 빠른 설치를 통해 설치, 경로도 건드리지 않았다. C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6에 설치되었다.

3. cuDNN 설치하기

1. CUDA 설치했는데 끝 아님? 생각했는데 이것도 필요하다고 한다.

2. 위에서 보이듯 CUDA의 라이브러리들이 용도에 따라 나뉘어있다. cuDNN은 딥러닝을 위한 CUDA Library로, PyTorch나 TensorFlow 등은 cuDNN을 이용한다. 이는 GPU 가속 등에 이점이 있다. 그러니 설치! 하려면 회원가입이 필요하다.

3. 이 링크에서 받을 수 있는데 회원가입이 필요하다. 내 CUDA는 1.x에 해당하므로 최신 Release로 설치했다. .zip을 받게 되는데, 압축 해제하면 다음과 같은 모습이다.
   

4. 그 후 CUDA가 설치된 경로에 들어가, 저 폴더들을 붙여넣어주면 끝이다.

4. PyTorch 설치하기

1. conda activate [venv_name]으로 가상환경을 켜주고, 위에 설치가이드를 통해 확인한 command를 입력해 설치했다. conda install pytorch torchvision torchaudio pytorch-cuda=11.6 -c pytorch -c nvidia

2. CUDA가 available해졌다는 기쁜 소식과 함께 과제하러 가보자.