Configuration requise pour l'installation de Milvus avec GPU
Cette page répertorie la configuration matérielle et logicielle requise pour installer Milvus avec prise en charge du GPU.
Capacité de calcul
La capacité de calcul de votre périphérique GPU doit être l'une des suivantes : 6.0, 7.0, 7.5, 8.0, 8.6, 9.0.
Pour vérifier si votre périphérique GPU répond à cette exigence, vérifiez la capacité de calcul de votre GPU sur le site web des développeurs NVIDIA.
Pilote NVIDIA
Le pilote NVIDIA de votre périphérique GPU doit être installé sur l'une des distributions Linux prises en charge, et le NVIDIA Container Toolkit a été installé en suivant ce guide.
Pour les utilisateurs d'Ubuntu 22.04, vous pouvez installer le pilote et le kit d'outils de conteneur à l'aide des commandes suivantes :
$ sudo apt install --no-install-recommends nvidia-headless-545 nvidia-utils-545
Pour les utilisateurs d'autres systèmes d'exploitation, reportez-vous au guide d'installation officiel.
Vous pouvez vérifier si le pilote a été installé correctement en exécutant la commande suivante :
$ modinfo nvidia | grep "^version"
version: 545.29.06
Il est recommandé d'utiliser les pilotes de la version 545 et plus.
Configuration logicielle requise
Il est recommandé d'exécuter le cluster Kubernetes sur des plateformes Linux.
- kubectl est l'outil de ligne de commande pour Kubernetes. Utilisez une version de kubectl qui se situe à moins d'une différence de version mineure de votre cluster. L'utilisation de la dernière version de kubectl permet d'éviter des problèmes imprévus.
- minikube est nécessaire pour l'exécution locale d'un cluster Kubernetes. minikube nécessite Docker comme dépendance. Veillez à installer Docker avant d'installer Milvus à l'aide de Helm. Voir Obtenir Docker pour plus d'informations.
| Système d'exploitation | Logiciel | Remarque |
|---|---|---|
| Plateformes Linux |
| Voir Helm Docs pour plus d'informations. |
Questions fréquemment posées
Comment puis-je démarrer un cluster K8s localement à des fins de test ?
Vous pouvez utiliser des outils tels que minikube, kind et Kubeadm pour configurer rapidement un cluster Kubernetes localement. La procédure suivante utilise minikube comme exemple.
- Télécharger minikube
Allez sur la page Get Started, vérifiez que vous remplissez les conditions énumérées dans la section What you'll need, cliquez sur les boutons qui décrivent votre plateforme cible, et copiez les commandes pour télécharger et installer le binaire.
- Démarrer un cluster K8s avec minikube
$ minikube start
- Vérifier l'état de la grappe K8s
Vous pouvez vérifier l'état du cluster K8s installé à l'aide de la commande suivante.
$ kubectl cluster-info
Assurez-vous que vous pouvez accéder au cluster K8s via kubectl. Si vous n'avez pas installé kubectl localement, voir Utiliser kubectl dans minikube.
Comment puis-je démarrer un cluster K8s avec des nœuds de travail GPU ?
Si vous préférez utiliser des nœuds de travail GPU, vous pouvez suivre les étapes ci-dessous pour créer un cluster K8s avec des nœuds de travail GPU. Nous recommandons d'installer Milvus sur un cluster K8s avec des nœuds de travail GPU et d'utiliser la classe de stockage par défaut provisionnée.
- Préparation des nœuds de travail GPU
Pour utiliser des nœuds de travail GPU, suivez les étapes de la section Préparer vos nœuds GPU.
- Activer la prise en charge du GPU sur K8s
Déployez le plugin nvidia-device avec Helm en suivant ces étapes.
Après la configuration, affichez les ressources GPU à l'aide de la commande suivante. Remplacez <gpu-worker-node> par le nom réel du nœud.
$ kubectl describe node <gpu-worker-node>
Capacity:
...
nvidia.com/gpu: 4
...
Allocatable:
...
nvidia.com/gpu: 4
...
```
