Requisiti per l'installazione di Milvus con GPU
Questa pagina elenca i requisiti hardware e software per configurare Milvus con il supporto GPU.
Capacità di calcolo
La capacità di calcolo del dispositivo GPU deve essere una delle seguenti: 6.0, 7.0, 7.5, 8.0, 8.6, 9.0.
Per verificare se il dispositivo GPU soddisfa il requisito, controllare la capacità di calcolo della GPU sul sito Web degli sviluppatori NVIDIA.
Driver NVIDIA
Il driver NVIDIA per il dispositivo GPU deve essere presente in una delle distribuzioni Linux supportate e l'NVIDIA Container Toolkit deve essere stato installato seguendo questa guida.
Per gli utenti di Ubuntu 22.04, è possibile installare il driver e il Container Toolkit con i seguenti comandi:
$ sudo apt install --no-install-recommends nvidia-headless-545 nvidia-utils-545
Per gli altri sistemi operativi, consultare la guida ufficiale all'installazione.
È possibile verificare se il driver è stato installato correttamente eseguendo il seguente comando:
$ modinfo nvidia | grep "^version"
version: 545.29.06
Si consiglia di utilizzare i driver della versione 545 e successive.
Requisiti del software
Si consiglia di eseguire il cluster Kubernetes su piattaforme Linux.
- kubectl è lo strumento a riga di comando per Kubernetes. Utilizzare una versione di kubectl con una differenza di versione minore rispetto al proprio cluster. L'uso della versione più recente di kubectl aiuta a evitare problemi imprevisti.
- minikube è necessario quando si esegue il cluster Kubernetes in locale. minikube richiede Docker come dipendenza. Assicurarsi di installare Docker prima di installare Milvus con Helm. Per ulteriori informazioni, vedere Ottenere Docker.
Sistema operativo | Software | Nota |
---|---|---|
Piattaforme Linux |
| Per ulteriori informazioni, consultare i documenti Helm. |
Domande frequenti
Come posso avviare un cluster K8s localmente a scopo di test?
È possibile utilizzare strumenti come minikube, kind e Kubeadm per configurare rapidamente un cluster Kubernetes a livello locale. La procedura seguente utilizza minikube come esempio.
- Scaricare minikube
Accedere alla pagina Get Started, verificare se sono soddisfatte le condizioni elencate nella sezione What you'll need, fare clic sui pulsanti che descrivono la piattaforma di destinazione e copiare i comandi per scaricare e installare il binario.
- Avviare un cluster K8s con minikube
$ minikube start
- Controllare lo stato del cluster K8s
È possibile verificare lo stato del cluster K8s installato utilizzando il seguente comando.
$ kubectl cluster-info
Assicurarsi di poter accedere al cluster K8s tramite kubectl
. Se non è stato installato localmente kubectl
, vedere Utilizzare kubectl all'interno di minikube.
Come posso avviare un cluster K8s con nodi worker GPU?
Se si preferisce usare nodi worker abilitati alle GPU, si può seguire la procedura seguente per creare un cluster K8s con nodi worker GPU. Si consiglia di installare Milvus su un cluster K8s con nodi worker GPU e di utilizzare la classe di storage predefinita.
- Preparare i nodi worker GPU
Per utilizzare i nodi worker abilitati alle GPU, seguire i passaggi in Preparare i nodi GPU.
- Abilitare il supporto GPU su K8s
Distribuire il plugin nvidia-device con Helm seguendo questi passaggi.
Dopo la configurazione, visualizzare le risorse della GPU con il seguente comando. Sostituire <gpu-worker-node>
con il nome effettivo del nodo.
$ kubectl describe node <gpu-worker-node>
Capacity:
...
nvidia.com/gpu: 4
...
Allocatable:
...
nvidia.com/gpu: 4
...
```