GPU가 포함된 Milvus 설치 요구 사항

이 페이지에는 GPU를 지원하는 Milvus를 설정하기 위한 하드웨어 및 소프트웨어 요구 사항이 나열되어 있습니다.

컴퓨팅 성능

GPU 장치의 컴퓨팅 성능은 다음 중 하나이어야 합니다: 6.0, 7.0, 7.5, 8.0, 8.6, 9.0.

사용 중인 GPU 장치가 요구 사항을 충족하는지 확인하려면 NVIDIA 개발자 웹사이트에서 GPU 컴퓨팅 성능을 확인하세요.

GPU 장치용 NVIDIA 드라이버는 지원되는 Linux 배포판 중 하나에 있어야 하며, 이 가이드에 따라 NVIDIA 컨테이너 툴킷이 설치되어 있어야 합니다.

Ubuntu 22.04 사용자의 경우 다음 명령을 사용하여 드라이버와 컨테이너 툴킷을 설치할 수 있습니다:

$ sudo apt install --no-install-recommends nvidia-headless-545 nvidia-utils-545

다른 OS 사용자의 경우 공식 설치 가이드를 참조하세요.

다음 명령을 실행하여 드라이버가 올바르게 설치되었는지 확인할 수 있습니다:

$ modinfo nvidia | grep "^version"
version:        545.29.06

버전 545 이상의 드라이버를 사용하는 것이 좋습니다.

Linux 플랫폼에서 Kubernetes 클러스터를 실행하는 것이 좋습니다.

kubectl은 쿠버네티스용 커맨드-라인 도구이다. 클러스터의 사소한 버전 차이가 하나 이내의 kubectl 버전을 사용한다. 최신 버전의 kubectl을 사용하면 예기치 않은 문제를 방지하는 데 도움이 된다.
미니큐브는 쿠버네티스 클러스터를 로컬로 실행할 때 필요합니다. 미니큐브는 종속성으로 도커를 필요로 합니다. 헬름을 사용하여 밀버스를 설치하기 전에 도커를 설치해야 한다. 자세한 내용은 Docker 설치를 참조한다.

운영 체제	소프트웨어	참고
Linux 플랫폼	쿠버네티스 1.16 이상 kubectl 헬름 3.0.0 이상 미니큐브(Milvus 스탠드얼론용) 도커 19.03 이상(밀버스 독립형용)	자세한 내용은 헬름 문서를 참조한다.

미니큐브, kind, Kubeadm과 같은 도구를 사용하여 로컬에서 빠르게 쿠버네티스 클러스터를 설정할 수 있다. 다음 절차에서는 미니큐브를 예로 들어 설명합니다.

시작하기 페이지로 이동하여 필요한 사항 섹션에 나열된 조건을 충족하는지 확인하고 대상 플랫폼을 설명하는 버튼을 클릭한 다음 명령을 복사하여 바이너리를 다운로드 및 설치합니다.

$ minikube start

다음 명령어를 사용하여 설치된 K8s 클러스터의 상태를 확인할 수 있습니다.

$ kubectl cluster-info

kubectl 을 통해 K8s 클러스터에 액세스할 수 있는지 확인합니다. 로컬에 kubectl 를 설치하지 않은 경우, 미니큐브 내에서 kubectl 사용을 참조하세요.

GPU 지원 워커 노드를 사용하려면 아래 단계에 따라 GPU 워커 노드가 있는 K8s 클러스터를 생성할 수 있다. GPU 워커 노드가 있는 K8s 클러스터에 Milvus를 설치하고 프로비저닝된 기본 스토리지 클래스를 사용하는 것이 좋습니다.

GPU 지원 워커 노드를 사용하려면 GPU 노드 준비하기의 단계를 따르세요.

다음 단계에 따라 헬름과 함께 nvidia-device-plugin을 배포한다.

설정이 끝나면 다음 명령어로 GPU 리소스를 확인한다. <gpu-worker-node> 을 실제 노드 이름으로 바꾼다.

  $ kubectl describe node <gpu-worker-node>

  Capacity:
  ...
  nvidia.com/gpu:     4
  ...
  Allocatable:
  ...
  nvidia.com/gpu:     4
  ...
  ```

번역 DeepL

Zilliz Cloud is hassle-free, powered by Milvus and 10x faster.

이 페이지가 도움이 되었나요?