GPU 사용위한 CUDA, cuDNN 설치

딥러닝을 연산량이 많아 cpu보단 gpu를 사용하는 것이 효과적이다. 텐서플로우나 파이토치를 이용해 gpu를 사용하려면 cuda, cudnn을 설치해줘야 한다.

이번엔 cuda와 그에 맞는 cudnn을 설치하는 과정을 적어보려고 한다.

 

1. GPU 확인

장치 관리자 > 디스플레이 어댑터

GPU가 GeForce RTX 3070인 것을 확인할 수 있다.

 

2. GPU에 맞는 CUDA 버전 확인

명령프롬프트(CMD)를 켜고 nvidia-smi 를 입력하면, 호환되는 최상위 버전을 알 수 있다.

nvidia-smi를 통해 CUDA가 최대 12.3까지 호환되는 것을 볼 수 있다.

12.3 아래 버전은 모두 사용 가능하다.

 

3. GPU에 맞는 NVIDIA 드라이버 설치

https://www.nvidia.co.kr/Download/index.aspx?lang=kr 에서 그래픽 카드에 맞는 엔비디아 드라이버를 설치해야 한다.

Download the latest official NVIDIA drivers

nvidia에서 제공하는 드라이버 설치. 자신의 사양을 선택하면 된다.

 

4. CUDA 설치

https://developer.nvidia.com/cuda-toolkit-archive 에서 원하는 버전의 cuda를 설치해야 한다.

CUDA Toolkit Archive

 

11.3.0 버전을 선택했고, 클릭하면 아래처럼 나온다.

 

 

운영체제와 윈도우 버전, 타입을 선택한 후 아래의 다운로드 버튼을 클릭하면 된다.

설치가 다 끝나면, C 드라이브의 ProgramFiles 폴더에 NVIDIA GPU Computing Toolkit 이라는 폴더가 생성된다. 이 안에 있는 bin, lib, include가 중요하다.

5. cuDNN 설치

우선 cuDNN을 설치하려면 계정이 필요하기 때문에, 엔비디아에 로그인을 해야한다. 

https://developer.nvidia.com/rdp/cudnn-archive

cuDNN Archive

 

여러 버전의 cuDNN.

자신의 쿠다버전에 맞게 다운로드하면 된다.

 

자신의 컴퓨터 사양에 맞게 cuDNN Library for Windows (x86)을 선택해주면 된다.

그 후 다운받은 압축파일을 압축 해제한 뒤 bin, include, lib 폴더들을 Program Files>NVIDIA GPU Computing Toolfit > CUDA > v11.3 폴더에 이동시킨다. 폴더 자체를 덮어씌우는 것도 가능하다.

왼쪽의 폴더 및 파일들을 오른쪽 폴더(v11.3)로 이동시킨다.

 

6. 확인

cmd에 nvcc -V 라는 명령어를 입력하면 현재 설치된 CUDA 버전을 확인할 수 있다.

11.3 버전을 사용하는 모습이다.

 

시스템 환경변수

시스템 환경 변수 또한 자동적으로 생성된 모습이다.