Utiliser Milvus avec SambaNova
SambaNova est une plateforme technologique d'IA innovante qui accélère le déploiement de capacités avancées d'IA et d'apprentissage profond. Conçue pour une utilisation en entreprise, elle permet aux organisations d'exploiter l'IA générative pour améliorer les performances et l'efficacité. En fournissant des solutions de pointe telles que la suite SambaNova et DataScale, la plateforme permet aux entreprises d'extraire des informations précieuses de leurs données, entraînant des améliorations opérationnelles et favorisant de nouvelles opportunités dans le paysage de l'IA.
Leskits de démarrage SambaNova AI sont une collection de ressources open-source conçues pour aider les développeurs et les entreprises à déployer des applications axées sur l'IA avec SambaNova. Ces kits fournissent des exemples pratiques et des guides qui facilitent la mise en œuvre de divers cas d'utilisation de l'IA, ce qui permet aux utilisateurs d'exploiter plus facilement la technologie avancée de SambaNova.
Ce tutoriel tire parti de l'intégration de Milvus dans les kits de démarrage AI de SambaNova pour construire un système de recherche de connaissances d'entreprise, similaire à RAG (Retrieval-Augmented Generation), pour la recherche et la réponse basées sur les documents privés de l'entreprise.
Ce tutoriel se réfère principalement au guide officiel de SambaNova AI Starter Kits. Si vous trouvez que ce tutoriel contient des parties obsolètes, vous pouvez suivre en priorité le guide officiel et créer un problème avec nous.
Pré-requis
Nous recommandons d'utiliser Python >= 3.10 et < 3.12.
Visitez le SambaNova Cloud pour obtenir une clé API SambaNova.
Cloner le dépôt
$ git clone https://github.com/sambanova/ai-starter-kit.git
$ d ai-starter-kit/enterprise_knowledge_retriever
Changer le type de magasin de vecteurs
Changez le magasin de vecteurs en définissant db_type='milvus' dans les fonctions create_vector_store() et load_vdb() dans src/document_retrieval.py.
...
vectorstore = self.vectordb.create_vector_store(
..., db_type='milvus'
)
...
vectorstore = self.vectordb.load_vdb(..., db_type='milvus', ...)
Installer les dépendances
Installez les dépendances requises en exécutant la commande suivante :
python3 -m venv enterprise_knowledge_env
source enterprise_knowledge_env/bin/activate
pip install -r requirements.txt
Démarrer l'application
Utilisez la commande suivante pour démarrer l'application :
$ streamlit run streamlit/app.py --browser.gatherUsageStats false
Ensuite, vous voyez l'interface utilisateur dans votre navigateur :http://localhost:8501/
Après avoir défini votre clé API SambaNova dans l'interface utilisateur, vous pouvez jouer avec l'interface utilisateur et poser des questions sur vos documents.
Pour plus de détails, veuillez vous référer à la documentation officielle de Enterprise Knowledge Retrieval of SambaNova AI Starter Kits.
