Bereitstellung von Dify mit Milvus
Dify ist eine Open-Source-Plattform, die die Entwicklung von KI-Anwendungen durch die Kombination von Backend-as-a-Service mit LLMOps vereinfachen soll. Sie unterstützt gängige LLMs, bietet eine intuitive Prompt-Orchestrierungsschnittstelle, hochwertige RAG-Engines und ein flexibles KI-Agenten-Framework. Mit Low-Code-Workflows, benutzerfreundlichen Schnittstellen und APIs ermöglicht es Dify sowohl Entwicklern als auch technisch nicht versierten Anwendern, sich auf die Erstellung innovativer, realer KI-Lösungen zu konzentrieren, ohne sich mit Komplexität auseinandersetzen zu müssen.
In diesem Tutorial zeigen wir Ihnen, wie Sie Dify mit Milvus einsetzen können, um ein effizientes Retrieval und eine RAG-Engine zu ermöglichen.
Diese Dokumentation basiert hauptsächlich auf der offiziellen Dify-Dokumentation. Sollten Sie veraltete oder inkonsistente Inhalte finden, bevorzugen Sie bitte die offizielle Dokumentation und zögern Sie nicht, uns ein Problem zu melden.
Voraussetzungen
Klonen Sie das Repository
Klonen Sie den Dify-Quellcode auf Ihren lokalen Rechner:
git clone https://github.com/langgenius/dify.git
Umgebungskonfiguration vorbereiten
Navigieren Sie zu dem Docker-Verzeichnis im Dify-Quellcode
cd dify/docker
Kopieren Sie die Umgebungskonfigurationsdatei
cp .env.example .env
Bereitstellungsoptionen
Sie können Dify mit Milvus auf zwei verschiedene Arten bereitstellen. Wählen Sie diejenige, die Ihren Anforderungen am besten entspricht:
Option 1: Verwendung von Milvus mit Docker
Bei dieser Option werden Milvus-Container neben Dify auf Ihrem lokalen Rechner mit Docker Compose ausgeführt.
Konfigurieren Sie die Umgebungsvariablen
Bearbeiten Sie die Datei .env mit der folgenden Milvus-Konfiguration:
VECTOR_STORE=milvus
MILVUS_URI=http://host.docker.internal:19530
MILVUS_TOKEN=
MILVUS_URIverwendethost.docker.internal:19530, wodurch Docker-Container über das interne Netzwerk von Docker auf Milvus zugreifen können, das auf dem Host-Rechner läuft.MILVUS_TOKENkann für lokale Milvus-Einsätze leer gelassen werden.
Starten Sie die Docker-Container
Starten Sie die Container mit dem Profil milvus, um Milvus-Dienste einzubinden:
docker compose --profile milvus up -d
Mit diesem Befehl wird der Dify-Dienst zusammen mit den Containern milvus-standalone, etcd und minio gestartet.
Option 2: Verwendung der Zilliz Cloud
Diese Option verbindet Dify mit einem verwalteten Milvus-Dienst auf Zilliz Cloud.
Konfigurieren Sie die Umgebungsvariablen
Bearbeiten Sie die Datei .env mit Ihren Zilliz-Cloud-Verbindungsdetails:
VECTOR_STORE=milvus
MILVUS_URI=YOUR_ZILLIZ_CLOUD_ENDPOINT
MILVUS_TOKEN=YOUR_ZILLIZ_CLOUD_API_KEY
- Ersetzen Sie
YOUR_ZILLIZ_CLOUD_ENDPOINTdurch Ihren öffentlichen Endpunkt von Zilliz Cloud. - Ersetzen Sie
YOUR_ZILLIZ_CLOUD_API_KEYdurch Ihren API-Schlüssel von Zilliz Cloud.
Starten Sie die Docker-Container
Starten Sie nur die Dify-Container ohne das Milvus-Profil:
docker compose up -d
Zugriff auf Dify
Melden Sie sich bei Dify an
Öffnen Sie Ihren Browser und rufen Sie die Dify-Installationsseite auf. Hier können Sie Ihr Administratorkonto einrichten:http://localhost/install. Melden Sie sich dann auf der Hauptseite von Dify an, um weitere Informationen zu erhalten.
Weitere Informationen zur Nutzung und Anleitung finden Sie in der Dify-Dokumentation.