milvus-logo
LFAI
Home
  • Começar a trabalhar

Requisitos para instalar o Milvus com GPU

Esta página lista os requisitos de hardware e software para configurar o Milvus com suporte a GPU.

Capacidade de computação

A capacidade de computação do seu dispositivo GPU deve ser uma das seguintes: 6.0, 7.0, 7.5, 8.0, 8.6, 9.0.

Para verificar se o seu dispositivo de GPU atende ao requisito, verifique a Capacidade de computação da GPU no site do desenvolvedor NVIDIA.

Driver NVIDIA

O driver NVIDIA para o seu dispositivo de GPU deve estar em uma das distribuições Linux suportadas e o NVIDIA Container Toolkit deve ter sido instalado seguindo este guia.

Para usuários do Ubuntu 22.04, é possível instalar o driver e o kit de ferramentas de contêiner com os seguintes comandos:

$ sudo apt install --no-install-recommends nvidia-headless-545 nvidia-utils-545

Para outros utilizadores de sistemas operativos, consulte o guia de instalação oficial.

Pode verificar se o controlador foi instalado corretamente executando o seguinte comando:

$ modinfo nvidia | grep "^version"
version:        545.29.06

Recomenda-se a utilização dos controladores da versão 545 e superior.

Requisitos de software

Recomenda-se que execute o cluster Kubernetes em plataformas Linux.

  • kubectl é a ferramenta de linha de comando para o Kubernetes. Use uma versão do kubectl que esteja dentro de uma diferença de versão menor do seu cluster. Usar a versão mais recente do kubectl ajuda a evitar problemas imprevistos.
  • minikube é necessário ao executar o cluster Kubernetes localmente. minikube requer o Docker como uma dependência. Certifique-se de que instala o Docker antes de instalar o Milvus utilizando o Helm. Consulte Obter o Docker para obter mais informações.
Sistema operativoSoftwareNota
Plataformas Linux
  • Kubernetes 1.16 ou posterior
  • kubectl
  • Helm 3.0.0 ou posterior
  • minikube (para Milvus autónomo)
  • Docker 19.03 ou posterior (para Milvus autónomo)
Consulte os documentos do Helm para obter mais informações.

Perguntas frequentes

Como posso iniciar um cluster do K8s localmente para fins de teste?

Pode utilizar ferramentas como minikube, kind e Kubeadm para configurar rapidamente um cluster Kubernetes localmente. O procedimento a seguir usa o minikube como exemplo.

  1. Descarregar o minikube

Aceda à página Get Started, verifique se cumpre as condições listadas na secção What you'll need, clique nos botões que descrevem a sua plataforma de destino e copie os comandos para transferir e instalar o binário.

  1. Iniciar um cluster K8s usando o minikube
$ minikube start
  1. Verificar o estado do cluster K8s

Pode verificar o estado do cluster K8s instalado utilizando o seguinte comando.

$ kubectl cluster-info

Certifique-se de que pode aceder ao cluster K8s através de kubectl. Se não tiver instalado o kubectl localmente, consulte Utilizar o kubectl dentro do minikube.

Como posso iniciar um cluster do K8s com nós de trabalho da GPU?

Se preferir usar nós de trabalho habilitados para GPU, pode seguir as etapas abaixo para criar um cluster K8s com nós de trabalho de GPU. Recomendamos instalar o Milvus em um cluster K8s com nós de trabalho de GPU e usar a classe de armazenamento padrão provisionada.

  1. Preparar nós de trabalho da GPU

Para usar nós de trabalho habilitados para GPU, siga as etapas em Preparar seus nós de GPU.

  1. Habilitar o suporte à GPU no K8s

Implante o nvidia-device-plugin com o Helm seguindo estas etapas.

Após a configuração, visualize os recursos da GPU com o seguinte comando. Substitua <gpu-worker-node> pelo nome real do nó.

  $ kubectl describe node <gpu-worker-node>

  Capacity:
  ...
  nvidia.com/gpu:     4
  ...
  Allocatable:
  ...
  nvidia.com/gpu:     4
  ...
  ```  

Traduzido porDeepLogo

Try Managed Milvus for Free

Zilliz Cloud is hassle-free, powered by Milvus and 10x faster.

Get Started
Feedback

Esta página foi útil?