cuda 11.0 및 cudnn 설치 방법 - 리눅스(ubuntu18.04)

cuda 11.0 및 cudnn 설치 방법 - 리눅스(ubuntu18.04)

cuda 11.0 + cudnn 8

1. CUDA 11.0 설치
1-1 CUDA PATH 설정

2. cudnn 8 설치
2-1. cudnn 설치 확인

cuda는 GPU 서버를 사용하기 위해서는 필수 중 하나인데요. GPU 서버를 셋팅하기 위해서는 기본적으로 Nvidia Driver 와 cuda가 설치가 되며 cudnn등이 추가로 설치 됩니다.

그 위에 딥러닝 프레임워크등이 올라가는데요. 예전에는 local 서버에 Tensorflow, Caffe, Pytorch등 많은 것들이 설치가 됬었습니다.

하지만 여러 사용자가 각기 다른 프레임워크에 version또한 다르다 보니 요즘에는 Docker, nvidia-docker, anaconda등을 사용하고 있는데요.

그렇다면 딥러닝 프레임워크를 사용하기 전에 필수로 설치되야 할 cuda 설치 및 cudnn 설치 방법에 대해 알아보도록 하겠습니다.

 

1. CUDA 11.0 설치

developer.nvidia.com/cuda-toolkit-archive

해당 링크에서 본인이 설치하고자 하는 CUDA version을 다운로드 합니다.

 

root@localhost:~# ls
cuda_11.0.3_450.51.06_linux.run
root@localhost:~# ./cuda_11.0.3_450.51.06_linux.run

위와 같이 다운로드된 cuda 파일을 실행해주면 되는데요.
혹시나 파일권한 때문에 실행 되지 않는다면, 

 

# chmod 777 cuda_11.0.3_450.51.06_linux.run 

으로 권한 설정 후 실행하시면 됩니다.

 

cuda 설치

1. 드라이버가 이전에 설치되어 있다고 삭제 후 시도하는게 좋겠다. 라는 것 같습니다만 무시해주시면 됩니다. continue

 

2. 이 또한 동의하겠냐에 질문이기 때문에 accept로 진행해 주시면 됩니다.

 

cuda 설치

여기서 Driver 부분은 체크박스에서 X 를 해제 해 줍니다. 기본적으로 cuda설치 시 nvidia-driver도 제공되지만 cuda 설치 전 미리 repository 등록하여 apt-get install 로 설치 하는 것이 좋습니다.

나머지는 Default 상태로 설치 하시면 되는데요. cuda 툴킷 및 샘플 등이 같이 설치 되게 됩니다. 혹시 cuda 버전을 여러개 사용하게 된다면 기존 심볼링 링크가 삭제 되므로 cuda toolkit에서 A 버튼을 눌러줍니다.

 

cuda 설치

Create symbolic link from /usr/local/cuda 부분의 체크박스에서 X를 해제합니다.

 

cuda버전을 하나만 사용하게 된다면, 위에 Default 상태에서 Driver 버전만 체크박스 X 해제 후 설치 진행을 하시면 됩니다.

 

cuda설치 완료가 되면 아래와 같은 메시지를 확인 할 수 있습니다.

 

===========
= Summary =
===========

Driver:   Not Selected
Toolkit:  Installed in /usr/local/cuda-11.0/
Samples:  Installed in /root/, but missing recommended libraries

Please make sure that
 -   PATH includes /usr/local/cuda-11.0/bin
 -   LD_LIBRARY_PATH includes /usr/local/cuda-11.0/lib64, or, add /usr/local/cuda-11.0/lib64 to /etc/ld.so.conf and run ldconfig as root

 

Driver는 선택하지 않았으며, Toolkit은 /usr/local/cuda-11.0 에 설치 되었으며, Cuda samples 파일은 /root 에 설치 되었습니다. cuda를 사용할거면 PATH 설정을 하라고 하는 것인데요.

 

기본적으로 ubuntu는 전역변수는 /etc/bash.bashrc에 설정하면 되며, 사용자 마다 각기 다른 cuda를 사용하게 될 경우에는 사용자 home폴더에 .bashrc를 수정해 주면 됩니다.

 

1-1. CUDA PATH 설정

# vim /etc/bash.bashrc

마지막 줄 아래 추가
##### ADD #####
export PATH=/usr/local/cuda-11.0/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-11.0/lib64:$LD_LIBRARY_PATH
export LD_LIBRARY_PATH=/usr/local/cuda-11.0/extras/CUPTI/lib64:$LD_LIBRARY_PATH
################

위에 처럼 cuda path및 cuda library path를 지정해 준 후

# source /etc/bash.bashrc

위를 통해 설정 한 PATH를 현재 접속해 있는 터미널에 바로 적용 해 줍니다.

 

 

# nvcc -V

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2020 NVIDIA Corporation
Built on Wed_Jul_22_19:09:09_PDT_2020
Cuda compilation tools, release 11.0, V11.0.221
Build cuda_11.0_bu.TC445_37.28845127_0

해당 커맨드 입력시 release 11.0 을 확인 가능하면 설치가 완료되었습니다.

 

---

2. cudnn 8 설치

developer.nvidia.com/rdp/cudnn-download

해당 링크를 통해 cuda 11.0 에 맞는 cudnn 8 버전을 다운로드 합니다.

 

cudnn 설치

다운로드 한 cudnn.solitairetheme8 파일을 tar xvf 로 압축 해제를 진행 합니다.

 

 

설치 후 cuda 폴더가 생성이 되는데요. cuda 폴더에 진입하게 되면 include 폴더와 lib64 폴더 및 txt파일이 하나 있습니다. include폴더안의 파일은 cuda의 include로 lib64폴더안의 파일은 cuda의 lib64로 복사해 주면 되는데요.

아래와 같이 진행하시면 됩니다.

 

# cd cuda

# cp include/cudnn* /usr/local/cuda-11.0/include

# cp lib64/libcudnn* /usr/local/cuda-11.0/lib64/

# chmod a+r /usr/local/cuda-11.0/lib64/libcudnn*

 

2-1 cudnn 설치 확인

# cat /usr/local/cuda-11.0/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

 

 

#define CUDNN_MAJOR 8
#define CUDNN_MINOR 0
#define CUDNN_PATCHLEVEL 3

 

cudnn 8.0.3 버전이 설치가 되었습니다.

 

이전 버전인 cudnn 7 버전은 cudnn_version.h 가 아니라 cudnn.h 이니 잘 기억해 두시기 바랍니다.