Bereitstellung von Dify mit Milvus
Dify ist eine Open-Source-Plattform, die die Entwicklung von KI-Anwendungen durch die Kombination von Backend-as-a-Service mit LLMOps vereinfachen soll. Sie unterstützt gängige LLMs, bietet eine intuitive Prompt-Orchestrierungsschnittstelle, hochwertige RAG-Engines und ein flexibles KI-Agenten-Framework. Mit Low-Code-Workflows, benutzerfreundlichen Schnittstellen und APIs ermöglicht es Dify sowohl Entwicklern als auch technisch nicht versierten Anwendern, sich auf die Erstellung innovativer, realer KI-Lösungen zu konzentrieren, ohne sich mit Komplexität auseinandersetzen zu müssen.
In diesem Tutorial zeigen wir Ihnen, wie Sie Dify mit Milvus einsetzen können, um ein effizientes Retrieval und eine RAG-Engine zu ermöglichen.
Klonen des Repositorys
Klonen Sie den Dify-Quellcode auf Ihren lokalen Rechner:
git clone https://github.com/langgenius/dify.git
Setzen Sie die Umgebungsvariablen
Navigieren Sie zu dem Docker-Verzeichnis im Dify-Quellcode
cd dify/docker
Kopieren Sie die Umgebungskonfigurationsdatei
cp .env.example .env
Ändern Sie den Wert VECTOR_STORE in der Datei .env
VECTOR_STORE=milvus
Stellen Sie sicher, dass die Milvus-Konfiguration in der Datei .env die folgende Zeile enthält:
MILVUS_URI=http://host.docker.internal:19530
Beachten Sie, dass Dify durch die Angabe von VECTOR_STORE=milvus einen Milvus-Standalone-Server in Docker aufruft. Obwohl Sie von außerhalb von Docker über http://localhost:19530 auf den Server zugreifen können, müssen sich andere Dify-Container mit dem speziellen DNS-Namen host.docker.internal verbinden, um mit ihm innerhalb der Docker-Umgebung zu kommunizieren. Daher setzen wir http://host.docker.internal:19530 als MILVUS_URI.
Für den Einsatz in der Produktion möchten Sie vielleicht die Authentifizierung anpassen. Weitere Informationen zum Festlegen von Token oder Benutzernamen und Passwort in Milvus finden Sie auf der Seite authenticate.
Starten Sie die Docker-Container
Wählen Sie den entsprechenden Befehl zum Starten der Container auf der Grundlage der Docker Compose-Version auf Ihrem System. Sie können den Befehl $ docker compose version verwenden, um die Version zu überprüfen, und weitere Informationen in der Docker-Dokumentation nachlesen:
Wenn Sie Docker Compose V2 haben, verwenden Sie den folgenden Befehl:
docker compose up -d
Wenn Sie Docker Compose V1 haben, verwenden Sie den folgenden Befehl:
docker compose up -d
Melden Sie sich bei Dify an
Öffnen Sie Ihren Browser und rufen Sie die Dify-Installationsseite auf. Hier können Sie Ihr Administratorkonto einrichten:http://localhost/install. Dann melden Sie sich auf der Dify-Hauptseite zur weiteren Verwendung an.
Weitere Informationen zur Verwendung und Anleitung finden Sie in der Dify-Dokumentation.