Milvus in Kubernetes mit Helm ausführen

Auf dieser Seite wird erläutert, wie Sie eine Milvus-Instanz in Kubernetes mithilfe von Milvus-Helm-Charts starten.

Übersicht

Helm verwendet ein Paketformat namens „Charts“. Ein Chart ist eine Sammlung von Dateien, die eine zusammengehörige Gruppe von Kubernetes-Ressourcen beschreiben. Milvus stellt eine Reihe von Charts bereit, die Ihnen bei der Bereitstellung von Milvus-Abhängigkeiten und -Komponenten helfen.

Voraussetzungen

• Installieren Sie die Helm-CLI.

• Erstellen Sie einen K8s-Cluster.

• Installieren Sie eine StorageClass. Sie können die installierte StorageClass wie folgt überprüfen.

  $ kubectl get sc
  
  NAME                  PROVISIONER                  RECLAIMPOLICY    VOLUMEBIINDINGMODE    ALLOWVOLUMEEXPANSION     AGE
  standard (default)    k8s.io/minikube-hostpath     Delete           Immediate             false 
  

• Überprüfen Sie vor der Installation die Hardware- und Softwareanforderungen.

• Vor der Installation von Milvus wird empfohlen, das Milvus Sizing Tool zu verwenden, um die Hardwareanforderungen basierend auf Ihrer Datenmenge abzuschätzen. Dies trägt dazu bei, eine optimale Leistung und Ressourcenzuweisung für Ihre Milvus-Installation sicherzustellen.

Milvus-Helm-Chart installieren

Bevor Sie die Milvus-Helm-Charts installieren, müssen Sie das Milvus-Helm-Repository hinzufügen.

helm repo add zilliztech https://zilliztech.github.io/milvus-helm/

Laden Sie anschließend die Milvus-Charts wie folgt aus dem Repository herunter:

$ helm repo update

Sie können diesen Befehl jederzeit ausführen, um die neuesten Milvus-Helm-Charts abzurufen.

Online-Installation

1. Einen Milvus-Cluster bereitstellen

Sobald Sie das Helm-Chart installiert haben, können Sie Milvus auf Kubernetes starten. Dieser Abschnitt führt Sie durch die Bereitstellung eines Milvus-Clusters.

helm install my-release zilliztech/milvus \
  --set image.all.tag=v3.0.3 \
  --set cluster.enabled=false \
  --set pulsarv3.enabled=false \
  --set standalone.messageQueue=woodpecker \
  --set woodpecker.enabled=true \
  --set streaming.enabled=true

Milvus-Cluster bereitstellen:

Der folgende Befehl stellt einen Milvus-Cluster mit optimierten Einstellungen für v3.0.3 bereit und verwendet Woodpecker als empfohlene Nachrichtenwarteschlange:

helm install my-release zilliztech/milvus \
  --set image.all.tag=v3.0.3 \
  --set woodpecker.enabled=true \
  --set woodpecker.image.tag=v0.1.46 \
  --set streaming.enabled=true \
  --set streaming.woodpecker.embedded=false \
  --set indexNode.enabled=false

Funktionsweise dieses Befehls:

• Verwendet Woodpecker als Nachrichtenwarteschlange (empfohlen für geringeren Wartungsaufwand)
• Führt Woodpecker als dedizierten Dienst (ein separates StatefulSet) aus, der nicht in den Streaming-Knoten eingebettet ist
• Aktiviert die neue Streaming-Node -Komponente für eine verbesserte Leistung
• Deaktiviert den veralteten Index-Knoten (die Funktionalität wird nun vom Datenknoten übernommen)

Alternative Nachrichtenwarteschlangen: Informationen zur Bereitstellung mit Pulsar, Kafka oder RocksMQ anstelle von Woodpecker finden Sie unter „Optionale Abhängigkeiten“.

Nächste Schritte: Der obige Befehl stellt Milvus mit den empfohlenen Konfigurationen bereit. Für den Produktiveinsatz:

• Verwenden Sie das Milvus-Dimensionierungstool, um die Einstellungen basierend auf Ihrer Datenmenge zu optimieren
• Lesen Sie die „Milvus-Checkliste für Systemkonfigurationen“, um erweiterte Konfigurationsoptionen zu erfahren

2. Überprüfen Sie den Status des Milvus-Clusters

Überprüfen Sie, ob Ihre Bereitstellung erfolgreich war, indem Sie den Pod-Status überprüfen:

kubectl get pods

Warten Sie, bis alle Pods den Status „Running“ anzeigen. Bei der Konfiguration v3.0.3 sollten Sie Pods sehen, die in etwa wie folgt aussehen:

NAME                                             READY  STATUS   RESTARTS  AGE
my-release-etcd-0                                1/1    Running   0        3m23s
my-release-etcd-1                                1/1    Running   0        3m23s
my-release-etcd-2                                1/1    Running   0        3m23s
my-release-milvus-datanode-68cb87dcbd-4khpm      1/1    Running   0        3m23s
my-release-milvus-mixcoord-7fb9488465-dmbbj      1/1    Running   0        3m23s
my-release-milvus-proxy-6bd7f5587-ds2xv          1/1    Running   0        3m24s
my-release-milvus-querynode-5cd8fff495-k6gtg     1/1    Running   0        3m24s
my-release-milvus-streamingnode-7b8cfc769c-mqmsm  1/1    Running   0        3m24s
my-release-milvus-woodpecker-0                   1/1    Running   0        3m24s
my-release-milvus-woodpecker-1                   1/1    Running   0        3m24s
my-release-milvus-woodpecker-2                   1/1    Running   0        3m24s
my-release-milvus-woodpecker-3                   1/1    Running   0        3m24s
my-release-minio-0                               1/1    Running   0        3m23s
my-release-minio-1                               1/1    Running   0        3m23s
my-release-minio-2                               1/1    Running   0        3m23s
my-release-minio-3                               1/1    Running   0        3m23s

Wichtige zu überprüfende Komponenten:

• Milvus-Komponenten: mixcoord, datanode, querynode, proxy, streamingnode
• Abhängigkeiten: etcd (Metadaten), minio (Objektspeicher), woodpecker (Nachrichtenwarteschlange)

Sie können auch auf die Milvus-WebUI unter http://127.0.0.1:9091/webui/ zugreifen, sobald die Portweiterleitung eingerichtet ist (siehe nächster Schritt). Weitere Informationen finden Sie unter Milvus-WebUI.

3. Verbindung zu Milvus herstellen

Um von außerhalb von Kubernetes eine Verbindung zu Ihrem Milvus-Cluster herzustellen, müssen Sie eine Portweiterleitung einrichten.

Portweiterleitung einrichten:

kubectl port-forward service/my-release-milvus 27017:19530

Dieser Befehl leitet Ihren lokalen Port 27017 an den Milvus-Port 19530 weiter. Sie sollten Folgendes sehen:

Forwarding from 127.0.0.1:27017 -> 19530

Verbindungsdetails:

• Lokale Verbindung: localhost:27017
• Milvus-Standardport: 19530

Lassen Sie dieses Terminal während der Nutzung von Milvusgeöffnet. Sie können nun über localhost:27017 mit einem beliebigen Milvus-SDK eine Verbindung zu Milvus herstellen.

(Optional) Milvus-Konfigurationen aktualisieren

Sie können die Konfigurationen Ihres Milvus-Clusters aktualisieren, indem Sie die Datei „ values.yaml “ bearbeiten und erneut anwenden.

1. Erstellen Sie eine Datei „ values.yaml “ mit den gewünschten Konfigurationen.

   Im Folgenden wird davon ausgegangen, dass Sie „ proxy.http “ aktivieren möchten.

   extraConfigFiles:
     user.yaml: |+
       proxy:
         http:
           enabled: true
   

   Informationen zu den entsprechenden Konfigurationselementen finden Sie unter „Systemkonfiguration“.

2. Wenden Sie die Datei „ values.yaml “ an.

helm upgrade my-release zilliztech/milvus --namespace my-namespace -f values.yaml

1. Überprüfen Sie die aktualisierten Konfigurationen.

   helm get values my-release
   

   Die Ausgabe sollte die aktualisierten Konfigurationen anzeigen.

Auf Milvus WebUI zugreifen

Milvus wird mit einem integrierten GUI-Tool namens „Milvus WebUI“ ausgeliefert, auf das Sie über Ihren Browser zugreifen können. Die Milvus WebUI verbessert die Beobachtbarkeit des Systems durch eine einfache und intuitive Benutzeroberfläche. Mit der Milvus WebUI können Sie die Statistiken und Metriken der Komponenten und Abhängigkeiten von Milvus beobachten, Details zu Datenbanken und Sammlungen überprüfen sowie detaillierte Milvus-Konfigurationen auflisten. Weitere Informationen zur Milvus-Web-UI finden Sie unter Milvus-Web-UI

Um den Zugriff auf die Milvus-Web-UI zu ermöglichen, müssen Sie eine Portweiterleitung vom Proxy-Pod auf einen lokalen Port einrichten.

$ kubectl port-forward --address 0.0.0.0 service/my-release-milvus 27018:9091
Forwarding from 0.0.0.0:27018 -> 9091

Nun können Sie über http://localhost:27018 auf die Milvus-Web-UI zugreifen.

Offline-Installation

Wenn Sie sich in einer Umgebung mit Netzwerkbeschränkungen befinden, befolgen Sie die in diesem Abschnitt beschriebenen Schritte, um einen Milvus-Cluster zu starten.

1. Milvus-Manifest abrufen

Führen Sie den folgenden Befehl aus, um das Milvus-Manifest abzurufen.

$ helm template my-release zilliztech/milvus > milvus_manifest.yaml

Der obige Befehl generiert Chart-Vorlagen für einen Milvus-Cluster und speichert die Ausgabe in einer Manifestdatei namens „ milvus_manifest.yaml “. Mit diesem Manifest können Sie einen Milvus-Cluster installieren, dessen Komponenten und Abhängigkeiten in separaten Pods untergebracht sind.

2. Skript zum Herunterladen des Images

Das Skript zum Abrufen der Images wurde in Python entwickelt. Sie sollten das Skript zusammen mit seinen Abhängigkeiten aus der Datei „ requirement.txt “ herunterladen.

$ wget https://raw.githubusercontent.com/milvus-io/milvus/master/deployments/offline/requirements.txt
$ wget https://raw.githubusercontent.com/milvus-io/milvus/master/deployments/offline/save_image.py

3. Images abrufen und speichern

Führen Sie den folgenden Befehl aus, um die benötigten Images abzurufen und zu speichern.

$ pip3 install -r requirements.txt
$ python3 save_image.py --manifest milvus_manifest.yaml

Die Bilder werden in einen Unterordner namens „ images “ im aktuellen Verzeichnis heruntergeladen.

4. Bilder laden

Sie können die Bilder nun wie folgt auf die Hosts in der netzwerkbeschränkten Umgebung laden:

$ for image in $(find . -type f -name "*.tar.gz") ; do gunzip -c $image | docker load; done

5. Milvus bereitstellen

$ kubectl apply -f milvus_manifest.yaml

Bis hierhin können Sie die Schritte 2 und 3 der Online-Installation befolgen, um den Clusterstatus zu überprüfen und einen lokalen Port an Milvus weiterzuleiten.

Laufenden Milvus-Cluster aktualisieren

Führen Sie den folgenden Befehl aus, um Ihren laufenden Milvus-Cluster auf die neueste Version zu aktualisieren:

$ helm repo update
$ helm upgrade my-release zilliztech/milvus --reset-then-reuse-values

Milvus deinstallieren

Führen Sie den folgenden Befehl aus, um Milvus zu deinstallieren.

$ helm uninstall my-release

Optionale Abhängigkeiten

Bei dieser Bereitstellung wird Woodpecker als Nachrichtenwarteschlange, etcd für Metadaten und MinIO für den Objektspeicher verwendet. Informationen zur Verwendung einer anderen Nachrichtenwarteschlange oder zur Anbindung eines externen Objektspeichers bzw. externer Metadaten finden Sie hier:

• Nachrichtenwarteschlange: Woodpecker (Standard) · Pulsar · Kafka · RocksMQ
• Objektspeicher: MinIO (Standard) · AWS S3 · Azure Blob · GCP Cloud Storage · Aliyun OSS · Tencent COS · Huawei OBS · S3-kompatibel
• Metadaten: etcd

Was kommt als Nächstes

Nachdem Sie Milvus in Docker installiert haben, können Sie:

• Schauen Sie sich „Hello Milvus“ an, um zu sehen, was Milvus leisten kann.

• Lernen Sie die grundlegenden Funktionen von Milvus kennen:

  • Datenbanken verwalten
  • Kollektionen verwalten
  • Partitionen verwalten
  • Einfügen, Upsert und Löschen
  • Suche nach einzelnen Vektoren
  • Hybride Suche

• Milvus mit Helm-Chart aktualisieren.

• Skalieren Sie Ihren Milvus-Cluster.

• Stellen Sie Ihren Milvus-Cluster in der Cloud bereit:

  • Amazon EKS
  • Google Cloud
  • Microsoft Azure

• Entdecken Sie Milvus WebUI, eine intuitive Weboberfläche für die Überwachung und Verwaltung von Milvus.

• Entdecken Sie Milvus Backup, ein Open-Source-Tool für Milvus-Datensicherungen.

• Entdecken Sie Birdwatcher, ein Open-Source-Tool zur Fehlerbehebung in Milvus und für dynamische Konfigurationsaktualisierungen.

• Entdecken Sie Attu, ein Open-Source-GUI-Tool für die intuitive Verwaltung von Milvus.

• Überwachen Sie Milvus mit Prometheus.