Ubuntu 22.04에 nvidia driver, cuda, cuDNN, torch 설치하기 (2024 ver)

서버 세팅은 항상 힘들다..

 

목차

 

0. ubuntu 버전 확인

1. nvidia driver 설치

2. cuda 설치

3. cuDNN 설치

4. torch 설치

 

 

0. ubuntu 버전 확인

일단 사용중인 ubuntu의 버전을 확인해준다.

lsb_release -a

 

 

1. nvidia driver 설치

1-1. 외부저장소 추가

 

nvidia driver을 포함하는 외부저장소(PPA)를 추가하고 해당 내용을 패키지 리스트에 업데이트해준다.

sudo add-apt-repository ppa:graphics-drivers/ppa
sudo apt update

 

 

1-2. 설치 가능한 드라이버 목록 확인

 

ubuntu-drivers를 이용해 설치 가능한 nvidia driver 목록을 확인한다.

ubuntu-drivers devices

 

근데 나는 ubuntu-drivers가 안떴다. apt install로도 안되었음. 이를 해결하기 위해 ..

 

 

1-2-1. sources.list에 다음 설정을 추가한다.

출처) https://velog.io/@johyonghoon/ubuntu-Unable-to-locate-package-ubuntu-driver-common-%EC%97%90%EB%9F%AC-%ED%95%B4%EA%B2%B0

vi /etc/apt/sources.list

 

최하단에 다음 내용을 추가

deb http://archive.ubuntu.com/ubuntu bionic main restricted universe multiverse
deb http://archive.ubuntu.com/ubuntu bionic-security main restricted universe multiverse
deb http://archive.ubuntu.com/ubuntu bionic-updates main restricted universe multiverse

 

위 내용을 반영

sudo apt update
sudo apt install -y ubuntu-drivers-common

 

이렇게 하면 ubuntu-drivers가 정상적으로 뜬다.

 

 

1-3. nvidia driver 설치

 

다시 1-2로 돌아가 nvidia driver 목록을 확인하고.. 나는 recommended 버전인 565 버전을 설치했다.

sudo apt install nvidia-driver-565

 

nvidia-driver가 정상적으로 깔리면 nvidia-smi로 확인할 수 있다. 난 안되서 재부팅 했더니 됐다.

sudo reboot

...

nvidia-smi

 

 

2. cuda 설치

이제 cuda를 깔아야 하는데, 난 torch를 설치할 것이기 때문에 맞는 버전의 cuda를 깔아야 한다.

 

2-1. torch 설치 페이지에서 설치해야 하는 cuda의 버전을 확인한다.

 

https://pytorch.org/get-started/locally/

 

 

사용할 pytorch 버전, os의 종류, 설치에 이용할 패키지 (coda, pip 등)을 선택하면 어떤 버전의 cuda를 깔아야 하는지 알려준다.

 

nvidia-smi를 설치하면 상단에 cuda version이 뜨는데, 이건 설치된 cuda toolkit의 버전이 아니라, 설치된 nvidia driver가 지원하면 최대 cuda 버전이다.

 

나는 12.7로 떠서 12.4를 설치하기로 했다.

 

 

2-2. cuda 설치하기

 

cuda 설치 명령어는 다음 페이지를 통해 확인할 수 있다.

https://developer.nvidia.com/cuda-toolkit-archive

 

 

다 선택하면 다음과 같이 설치 명령어가 나온다. 하나씩 순차적으로 실행해준다.

 

 

 

2-2-1. pubkey추가

 

위의 명령어에서 sudo apt-get update를 했더니 pubkey가 없다는 에러가 발생..

pubkey를 등록해줬다.

출처: https://miiingo.tistory.com/363

 

sudo gpg --keyserver keyserver.ubuntu.com --recv-keys <PUBKEY>

 

터미널에 나온 pubkey를 등록해줬더니 넘어갔다.

 

 

2-3. 환경변수 추가

 

cuda path를 환경변수에 추가해주자.

vi ~/.bashrc

 

맨 아래에 다음 내용을 추가해준다.

export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

 

위 내용을 반영

source ~/.bashrc

 

 

2-4. cuda 설치 확인

 

cuda가 잘 설치되었는지 확인하기 위해 다음을 실행한다.

nvcc -V

 

설치가 안되었단다.. 설치를 해주자

sudo apt install nvidia-cuda-tookit

 

굿

 

 

3. cuDNN 설치

 

아래 링크에서 서버 설정값에 맞게 선택한다. cuda 설치와 똑같다. 회원가입을 해야 한다.

https://developer.nvidia.com/cudnn-downloads

 

tensorflow 호환성 표 도 봤는데 딱히 호환성 이슈는 없는것 같다.

 

 

난 cuda 12로 설치했으니까 마지막 커맨드를 cudnn-cuda-12로 설치했다.

 

 

4. torch 설치

 

4-1. torch 설치

 

다시 pytorch 설치페이지로 가서 서버 설정과 cuda 버전 등을 선택한다.

https://pytorch.org/get-started/locally/

 

 

 

4-2. 설치 확인

 

cuda로 잘 가나 확인해보자.

import torch

torch.cuda.is_available()

x = torch.zeros((3, 3))
x.to("cuda")

 

완료