Bereitstellung von Dify mit Milvus

Dify ist eine Open-Source-Plattform, die die Entwicklung von KI-Anwendungen durch die Kombination von Backend-as-a-Service mit LLMOps vereinfachen soll. Sie unterstützt gängige LLMs, bietet eine intuitive Prompt-Orchestrierungsschnittstelle, hochwertige RAG-Engines und ein flexibles KI-Agenten-Framework. Mit Low-Code-Workflows, benutzerfreundlichen Schnittstellen und APIs ermöglicht es Dify sowohl Entwicklern als auch technisch nicht versierten Anwendern, sich auf die Erstellung innovativer, realer KI-Lösungen zu konzentrieren, ohne sich mit Komplexität auseinandersetzen zu müssen.

In diesem Tutorial zeigen wir Ihnen, wie Sie Dify mit Milvus einsetzen können, um ein effizientes Retrieval und eine RAG-Engine zu ermöglichen.

Klonen des Repositorys

Klonen Sie den Dify-Quellcode auf Ihren lokalen Rechner:

git clone https://github.com/langgenius/dify.git

Setzen Sie die Umgebungsvariablen

Navigieren Sie zu dem Docker-Verzeichnis im Dify-Quellcode

cd dify/docker

Kopieren Sie die Umgebungskonfigurationsdatei

cp .env.example .env

Ändern Sie den Wert VECTOR_STORE in der Datei .env

VECTOR_STORE=milvus

Ändern Sie die Milvus-Konfiguration in der Datei .env

MILVUS_URI=xxx
MILVUS_TOKEN=xxx

In diesem Setup verwenden Sie bitte die externe URI des Servers, z.B.http://172.16.16.16:19530, als Ihre MILVUS_URI.

Wenn Sie für MILVUS_TOKEN kein Token für Ihren Milvus-Server festgelegt haben, können Sie es auf eine leere Zeichenfolge wie MILVUS_TOKEN= setzen, andernfalls müssen Sie es auf Ihr Milvus-Token setzen. Weitere Informationen über das Setzen von Token in Milvus finden Sie auf der Seite authenticate.

Starten Sie die Docker-Container

Wählen Sie den entsprechenden Befehl zum Starten der Container auf der Grundlage der Docker Compose-Version auf Ihrem System. Sie können den Befehl $ docker compose version verwenden, um die Version zu überprüfen, und weitere Informationen in der Docker-Dokumentation nachlesen:

Wenn Sie Docker Compose V2 haben, verwenden Sie den folgenden Befehl:

docker compose up -d

Wenn Sie Docker Compose V1 haben, verwenden Sie den folgenden Befehl:

docker-compose up -d

Melden Sie sich bei Dify an

Öffnen Sie Ihren Browser und rufen Sie die Dify-Installationsseite auf. Hier können Sie Ihr Administratorkonto einrichten:http://localhost/install. Dann melden Sie sich auf der Dify-Hauptseite zur weiteren Verwendung an.

Weitere Informationen zur Verwendung und Anleitung finden Sie in der Dify-Dokumentation.