Bereitstellung von Dify mit Milvus
Dify ist eine Open-Source-Plattform, die die Entwicklung von KI-Anwendungen durch die Kombination von Backend-as-a-Service mit LLMOps vereinfachen soll. Sie unterstützt gängige LLMs, bietet eine intuitive Prompt-Orchestrierungsschnittstelle, hochwertige RAG-Engines und ein flexibles KI-Agenten-Framework. Mit Low-Code-Workflows, benutzerfreundlichen Schnittstellen und APIs ermöglicht es Dify sowohl Entwicklern als auch technisch nicht versierten Anwendern, sich auf die Erstellung innovativer, realer KI-Lösungen zu konzentrieren, ohne sich mit Komplexität auseinandersetzen zu müssen.
In diesem Tutorial zeigen wir Ihnen, wie Sie Dify mit Milvus einsetzen können, um ein effizientes Retrieval und eine RAG-Engine zu ermöglichen.
Klonen des Repositorys
Klonen Sie den Dify-Quellcode auf Ihren lokalen Rechner:
git clone https://github.com/langgenius/dify.git
Setzen Sie die Umgebungsvariablen
Navigieren Sie zu dem Docker-Verzeichnis im Dify-Quellcode
cd dify/docker
Kopieren Sie die Umgebungskonfigurationsdatei
cp .env.example .env
Ändern Sie den Wert VECTOR_STORE
in der Datei .env
VECTOR_STORE=milvus
Ändern Sie die Milvus-Konfiguration in der Datei .env
MILVUS_URI=xxx
MILVUS_TOKEN=xxx
In diesem Setup verwenden Sie bitte die externe URI des Servers, z.B.http://172.16.16.16:19530
, als Ihre MILVUS_URI
.
Wenn Sie für MILVUS_TOKEN
kein Token für Ihren Milvus-Server festgelegt haben, können Sie es auf eine leere Zeichenfolge wie MILVUS_TOKEN=
setzen, andernfalls müssen Sie es auf Ihr Milvus-Token setzen. Weitere Informationen über das Setzen von Token in Milvus finden Sie auf der Seite authenticate.
Starten Sie die Docker-Container
Wählen Sie den entsprechenden Befehl zum Starten der Container auf der Grundlage der Docker Compose-Version auf Ihrem System. Sie können den Befehl $ docker compose version
verwenden, um die Version zu überprüfen, und weitere Informationen in der Docker-Dokumentation nachlesen:
Wenn Sie Docker Compose V2 haben, verwenden Sie den folgenden Befehl:
docker compose up -d
Wenn Sie Docker Compose V1 haben, verwenden Sie den folgenden Befehl:
docker-compose up -d
Melden Sie sich bei Dify an
Öffnen Sie Ihren Browser und rufen Sie die Dify-Installationsseite auf. Hier können Sie Ihr Administratorkonto einrichten:http://localhost/install
. Dann melden Sie sich auf der Dify-Hauptseite zur weiteren Verwendung an.
Weitere Informationen zur Verwendung und Anleitung finden Sie in der Dify-Dokumentation.