Utiliser Milvus dans AnythingLLM
AnythingLLM est une application de bureau IA puissante, axée sur la confidentialité et tout-en-un qui prend en charge divers LLM, types de documents et bases de données vectorielles. Elle vous permet de construire un assistant privé de type ChatGPT qui peut fonctionner localement ou être hébergé à distance, vous permettant de discuter intelligemment avec tous les documents que vous fournissez.
Ce guide vous guidera dans la configuration de Milvus en tant que base de données vectorielle dans AnythingLLM, vous permettant d'incorporer, de stocker et de rechercher vos documents pour une récupération intelligente et un chat.
Ce tutoriel est basé sur la documentation officielle d'AnythingLLM et sur des étapes d'utilisation réelles. Si l'interface ou les étapes changent, veuillez vous référer à la dernière documentation officielle et n'hésitez pas à suggérer des améliorations.
1. Prérequis
- Milvus installé localement ou un compte Zilliz Cloud
- AnythingLLM Desktop installé
- Documents ou sources de données prêts à être téléchargés et intégrés (PDF, Word, CSV, pages web, etc.)
2. Configurer Milvus comme base de données vectorielle
- Ouvrez AnythingLLM et cliquez sur l'icône des paramètres dans le coin inférieur gauche.
Ouvrir les paramètres
Dans le menu de gauche, sélectionnez
AI Providers>Vector Database
Sélectionnez Vector Database (Base de données vectorielle) Dans la liste déroulante Vector Database Provider, sélectionnez Milvus (ou Zilliz Cloud)
Choisissez Milvus Remplissez les détails de votre connexion Milvus (pour Milvus local). Voici un exemple :
- Adresse de la base de données Milvus:
http://localhost:19530 - Nom d'utilisateur Milvus:
root - Mot de passe Milvus:
Milvus
Connexion Milvus
Si vous utilisez Zilliz Cloud, entrez votre point de terminaison de cluster et votre jeton API à la place :
Connexion Zilliz Cloud - Adresse de la base de données Milvus:
Cliquez sur Enregistrer les modifications pour appliquer vos paramètres.
3. Créer un espace de travail et télécharger des documents
Entrez dans votre espace de travail et cliquez sur l'icône de téléchargement pour ouvrir la boîte de dialogue de téléchargement des documents.
Ouvrir la boîte de dialogue de téléchargement Vous pouvez télécharger une grande variété de sources de données :
- Fichiers locaux: PDF, Word, CSV, TXT, fichiers audio, etc.
- Pages web: Collez une URL et récupérez directement le contenu d'un site web.
Téléchargement de documents Après avoir téléchargé ou récupéré des documents, cliquez sur Déplacer vers l'espace de travail pour déplacer le document ou les données dans votre espace de travail actuel.
Déplacer vers l'espace de travail Sélectionnez le document ou les données et cliquez sur Save and Embed. AnythingLLM se chargera automatiquement du découpage, de l'intégration et du stockage de votre contenu dans Milvus.
Enregistrer et incorporer
4. Chat et récupération des réponses dans Milvus
- Retournez à l'interface de chat de l'espace de travail et posez des questions. AnythingLLM recherchera dans votre base de données vectorielle Milvus le contenu pertinent et utilisera le LLM pour générer des réponses.
Chat avec Docs