Requisitos para instalar Milvus con GPU
Esta página enumera los requisitos de hardware y software para instalar Milvus con soporte GPU.
Capacidad de cálculo
La capacidad de cálculo de su dispositivo GPU debe ser una de las siguientes: 6.0, 7.0, 7.5, 8.0, 8.6, 9.0.
Para comprobar si tu dispositivo GPU cumple el requisito, consulta Your GPU Compute Capability en el sitio web para desarrolladores de NVIDIA.
Controlador NVIDIA
El controlador NVIDIA para tu dispositivo GPU debe estar en una de las distribuciones de Linux compatibles y se debe haber instalado el NVIDIA Container Toolkit siguiendo esta guía.
Para los usuarios de Ubuntu 22.04, puedes instalar el controlador y el kit de herramientas de contenedor con los siguientes comandos:
$ sudo apt install --no-install-recommends nvidia-headless-545 nvidia-utils-545
Para usuarios de otros sistemas operativos, consulta la guía de instalación oficial.
Puede comprobar si el controlador se ha instalado correctamente ejecutando el siguiente comando:
$ modinfo nvidia | grep "^version"
version: 545.29.06
Se recomienda utilizar los controladores de la versión 545 y superiores.
Requisitos de software
Se recomienda ejecutar el clúster Kubernetes en plataformas Linux.
- kubectl es la herramienta de línea de comandos para Kubernetes. Utilice una versión de kubectl que esté dentro de una diferencia de versión menor de su clúster. El uso de la última versión de kubectl ayuda a evitar problemas imprevistos.
- minikube es necesario cuando se ejecuta el clúster Kubernetes localmente. minikube requiere Docker como dependencia. Asegúrese de instalar Docker antes de instalar Milvus utilizando Helm. Consulte Obtener Docker para obtener más información.
| Sistema operativo | Software | Nota |
|---|---|---|
| Plataformas Linux |
| Consulte Helm Docs para obtener más información. |
Preguntas frecuentes
¿Cómo puedo iniciar un clúster K8s localmente para realizar pruebas?
Puede utilizar herramientas como minikube, kind y Kubeadm para configurar rápidamente un clúster Kubernetes de forma local. El siguiente procedimiento utiliza minikube como ejemplo.
- Descargar minikube
Vaya a la página Get Started, compruebe si cumple las condiciones enumeradas en la sección What you'll need, haga clic en los botones que describen su plataforma de destino y copie los comandos para descargar e instalar el binario.
- Iniciar un clúster K8s utilizando minikube
$ minikube start
- Compruebe el estado del clúster K8s
Puede comprobar el estado del clúster K8s instalado utilizando el siguiente comando.
$ kubectl cluster-info
Asegúrese de que puede acceder al cluster K8s a través de kubectl. Si no ha instalado kubectl localmente, consulte Usar kubectl dentro de minikube.
¿Cómo puedo iniciar un clúster K8s con nodos trabajadores GPU?
Si prefiere utilizar nodos trabajadores habilitados para GPU, puede seguir los siguientes pasos para crear un cluster K8s con nodos trabajadores GPU. Recomendamos instalar Milvus en un cluster K8s con nodos trabajadores GPU y utilizar la clase de almacenamiento por defecto provisionada.
- Preparar nodos trabajadores GPU
Para utilizar nodos trabajadores habilitados para GPU, siga los pasos indicados en Prepare sus nodos GPU.
- Habilite la compatibilidad con GPU en K8s
Despliegue el plugin nvidia-device con Helm siguiendo estos pasos.
Tras la configuración, visualice los recursos de la GPU con el siguiente comando. Sustituya <gpu-worker-node> por el nombre real del nodo.
$ kubectl describe node <gpu-worker-node>
Capacity:
...
nvidia.com/gpu: 4
...
Allocatable:
...
nvidia.com/gpu: 4
...
```
