Requisitos para instalar o Milvus com GPU
Esta página lista os requisitos de hardware e software para configurar o Milvus com suporte a GPU.
Capacidade de computação
A capacidade de computação do seu dispositivo GPU deve ser uma das seguintes: 6.0, 7.0, 7.5, 8.0, 8.6, 9.0.
Para verificar se o seu dispositivo de GPU atende ao requisito, verifique a Capacidade de computação da GPU no site do desenvolvedor NVIDIA.
Driver NVIDIA
O driver NVIDIA para o seu dispositivo de GPU deve estar em uma das distribuições Linux suportadas e o NVIDIA Container Toolkit deve ter sido instalado seguindo este guia.
Para usuários do Ubuntu 22.04, é possível instalar o driver e o kit de ferramentas de contêiner com os seguintes comandos:
$ sudo apt install --no-install-recommends nvidia-headless-545 nvidia-utils-545
Para outros utilizadores de sistemas operativos, consulte o guia de instalação oficial.
Pode verificar se o controlador foi instalado corretamente executando o seguinte comando:
$ modinfo nvidia | grep "^version"
version: 545.29.06
Recomenda-se a utilização dos controladores da versão 545 e superior.
Requisitos de software
Recomenda-se que execute o cluster Kubernetes em plataformas Linux.
- kubectl é a ferramenta de linha de comando para o Kubernetes. Use uma versão do kubectl que esteja dentro de uma diferença de versão menor do seu cluster. Usar a versão mais recente do kubectl ajuda a evitar problemas imprevistos.
- minikube é necessário ao executar o cluster Kubernetes localmente. minikube requer o Docker como uma dependência. Certifique-se de que instala o Docker antes de instalar o Milvus utilizando o Helm. Consulte Obter o Docker para obter mais informações.
| Sistema operativo | Software | Nota |
|---|---|---|
| Plataformas Linux |
| Consulte os documentos do Helm para obter mais informações. |
Perguntas frequentes
Como posso iniciar um cluster do K8s localmente para fins de teste?
Pode utilizar ferramentas como minikube, kind e Kubeadm para configurar rapidamente um cluster Kubernetes localmente. O procedimento a seguir usa o minikube como exemplo.
- Descarregar o minikube
Aceda à página Get Started, verifique se cumpre as condições listadas na secção What you'll need, clique nos botões que descrevem a sua plataforma de destino e copie os comandos para transferir e instalar o binário.
- Iniciar um cluster K8s usando o minikube
$ minikube start
- Verificar o estado do cluster K8s
Pode verificar o estado do cluster K8s instalado utilizando o seguinte comando.
$ kubectl cluster-info
Certifique-se de que pode aceder ao cluster K8s através de kubectl. Se não tiver instalado o kubectl localmente, consulte Utilizar o kubectl dentro do minikube.
Como posso iniciar um cluster do K8s com nós de trabalho da GPU?
Se preferir usar nós de trabalho habilitados para GPU, pode seguir as etapas abaixo para criar um cluster K8s com nós de trabalho de GPU. Recomendamos instalar o Milvus em um cluster K8s com nós de trabalho de GPU e usar a classe de armazenamento padrão provisionada.
- Preparar nós de trabalho da GPU
Para usar nós de trabalho habilitados para GPU, siga as etapas em Preparar seus nós de GPU.
- Habilitar o suporte à GPU no K8s
Implante o nvidia-device-plugin com o Helm seguindo estas etapas.
Após a configuração, visualize os recursos da GPU com o seguinte comando. Substitua <gpu-worker-node> pelo nome real do nó.
$ kubectl describe node <gpu-worker-node>
Capacity:
...
nvidia.com/gpu: 4
...
Allocatable:
...
nvidia.com/gpu: 4
...
```
