Utilice Milvus con SambaNova
SambaNova es una innovadora plataforma tecnológica de IA que acelera el despliegue de capacidades avanzadas de IA y aprendizaje profundo. Diseñada para uso empresarial, permite a las organizaciones aprovechar la IA generativa para mejorar el rendimiento y la eficiencia. Al proporcionar soluciones de vanguardia como SambaNova Suite y DataScale, la plataforma permite a las empresas extraer información valiosa de sus datos, impulsando mejoras operativas y fomentando nuevas oportunidades en el panorama de la IA.
Los SambaNova AI Starter Kits son una colección de recursos de código abierto diseñados para ayudar a los desarrolladores y a las empresas a desplegar aplicaciones basadas en IA con SambaNova. Estos kits proporcionan ejemplos prácticos y guías que facilitan la implementación de varios casos de uso de IA, facilitando a los usuarios el aprovechamiento de la avanzada tecnología de SambaNova.
Este tutorial aprovecha la integración de Milvus en SambaNova AI Starter Kits para construir un sistema de recuperación de conocimiento empresarial, similar a RAG (Retrieval-Augmented Generation), para recuperar y responder basándose en los documentos privados de la empresa.
Este tutorial se refiere principalmente a la guía oficial de SambaNova AI Starter Kits. Si usted encuentra que este tutorial tiene partes obsoletas, puede dar prioridad a seguir la guía oficial y crear un problema para nosotros.
Prerrequisitos
Recomendamos usar Python >= 3.10 y < 3.12.
Visita SambaNova Cloud para obtener una clave API de SambaNova.
Clonar el repositorio
$ git clone https://github.com/sambanova/ai-starter-kit.git
$ d ai-starter-kit/enterprise_knowledge_retriever
Cambiar el tipo de almacén vectorial
Cambie el almacén de vectores configurando db_type='milvus' en las funciones create_vector_store() y load_vdb() en src/document_retrieval.py.
...
vectorstore = self.vectordb.create_vector_store(
..., db_type='milvus'
)
...
vectorstore = self.vectordb.load_vdb(..., db_type='milvus', ...)
Instalar dependencias
Instale las dependencias necesarias ejecutando el siguiente comando:
python3 -m venv enterprise_knowledge_env
source enterprise_knowledge_env/bin/activate
pip install -r requirements.txt
Iniciar la aplicación
Utilice el siguiente comando para iniciar la aplicación:
$ streamlit run streamlit/app.py --browser.gatherUsageStats false
Después de eso, verá la interfaz de usuario en su navegador:http://localhost:8501/
Después de establecer su clave API SambaNova en la interfaz de usuario, puede jugar con la interfaz de usuario y hacer preguntas acerca de sus documentos.
Para más detalles, consulte la documentación oficial de Enterprise Knowledge Retrieval of SambaNova AI Starter Kits.
