Déploiement de Dify avec Milvus
Dify est une plateforme open-source conçue pour simplifier la création d'applications d'IA en combinant Backend-as-a-Service et LLMOps. Elle prend en charge les LLM les plus courants, offre une interface d'orchestration intuitive, des moteurs RAG de haute qualité et un cadre d'agent d'IA flexible. Avec des flux de travail à code bas, des interfaces et des API faciles à utiliser, Dify permet aux développeurs et aux utilisateurs non techniques de se concentrer sur la création de solutions d'IA innovantes et réalistes sans avoir à gérer la complexité.
Dans ce tutoriel, nous vous montrerons comment déployer Dify avec Milvus, pour permettre une récupération efficace et un moteur RAG.
Cette documentation est principalement basée sur la documentation officielle de Dify. Si vous trouvez un contenu obsolète ou incohérent, veuillez donner la priorité à la documentation officielle et n'hésitez pas à nous faire part d'un problème.
Pré-requis
Cloner le dépôt
Clonez le code source de Dify sur votre machine locale :
git clone https://github.com/langgenius/dify.git
Préparer la configuration de l'environnement
Naviguer vers le répertoire Docker dans le code source de Dify
cd dify/docker
Copier le fichier de configuration de l'environnement
cp .env.example .env
Options de déploiement
Vous pouvez déployer Dify avec Milvus en utilisant deux approches différentes. Choisissez celle qui correspond le mieux à vos besoins :
Option 1 : Utilisation de Milvus avec Docker
Cette option exécute les conteneurs Milvus avec Dify sur votre machine locale à l'aide de Docker Compose.
Configurer les variables d'environnement
Modifier le fichier .env avec la configuration Milvus suivante :
VECTOR_STORE=milvus
MILVUS_URI=http://host.docker.internal:19530
MILVUS_TOKEN=
- Le site
MILVUS_URIutilisehost.docker.internal:19530qui permet aux conteneurs Docker d'accéder à Milvus s'exécutant sur la machine hôte via le réseau interne de Docker. MILVUS_TOKENpeut être laissé vide pour les déploiements locaux de Milvus.
Démarrer les conteneurs Docker
Démarrer les conteneurs avec le profil milvus pour inclure les services Milvus :
docker compose --profile milvus up -d
Cette commande démarrera le service Dify avec les conteneurs milvus-standalone, etcd et minio.
Option 2 : Utilisation de Zilliz Cloud
Cette option connecte Dify à un service Milvus géré sur Zilliz Cloud.
Configurer les variables d'environnement
Modifiez le fichier .env avec vos détails de connexion à Zilliz Cloud :
VECTOR_STORE=milvus
MILVUS_URI=YOUR_ZILLIZ_CLOUD_ENDPOINT
MILVUS_TOKEN=YOUR_ZILLIZ_CLOUD_API_KEY
- Remplacez
YOUR_ZILLIZ_CLOUD_ENDPOINTpar votre point de terminaison public de Zilliz Cloud. - Remplacez
YOUR_ZILLIZ_CLOUD_API_KEYpar votre clé API de Zilliz Cloud.
Démarrer les conteneurs Docker
Démarrez uniquement les conteneurs Dify sans le profil Milvus :
docker compose up -d
Accès à Dify
Connectez-vous à Dify
Ouvrez votre navigateur et allez sur la page d'installation de Dify, et vous pouvez configurer votre compte administrateur ici :http://localhost/install, puis connectez-vous à la page principale de Dify pour une utilisation ultérieure.
Pour plus d'informations sur l'utilisation et les conseils, veuillez vous référer à la documentation de Dify.