milvus-logo
LFAI
Home
  • Integraciones

Utilice Milvus con SambaNova

SambaNova es una innovadora plataforma tecnológica de IA que acelera el despliegue de capacidades avanzadas de IA y aprendizaje profundo. Diseñada para uso empresarial, permite a las organizaciones aprovechar la IA generativa para mejorar el rendimiento y la eficiencia. Al proporcionar soluciones de vanguardia como SambaNova Suite y DataScale, la plataforma permite a las empresas extraer información valiosa de sus datos, impulsando mejoras operativas y fomentando nuevas oportunidades en el panorama de la IA.

Los SambaNova AI Starter Kits son una colección de recursos de código abierto diseñados para ayudar a los desarrolladores y a las empresas a desplegar aplicaciones basadas en IA con SambaNova. Estos kits proporcionan ejemplos prácticos y guías que facilitan la implementación de varios casos de uso de IA, facilitando a los usuarios el aprovechamiento de la avanzada tecnología de SambaNova.

Este tutorial aprovecha la integración de Milvus en SambaNova AI Starter Kits para construir un sistema de recuperación de conocimiento empresarial, similar a RAG (Retrieval-Augmented Generation), para recuperar y responder basándose en los documentos privados de la empresa.

Este tutorial se refiere principalmente a la guía oficial de SambaNova AI Starter Kits. Si usted encuentra que este tutorial tiene partes obsoletas, puede dar prioridad a seguir la guía oficial y crear un problema para nosotros.

Prerrequisitos

Recomendamos usar Python >= 3.10 y < 3.12.

Visita SambaNova Cloud para obtener una clave API de SambaNova.

Clonar el repositorio

$ git clone https://github.com/sambanova/ai-starter-kit.git
$ d ai-starter-kit/enterprise_knowledge_retriever

Cambiar el tipo de almacén vectorial

Cambie el almacén de vectores configurando db_type='milvus' en las funciones create_vector_store() y load_vdb() en src/document_retrieval.py.

...
vectorstore = self.vectordb.create_vector_store(
    ..., db_type='milvus'
)
...
vectorstore = self.vectordb.load_vdb(..., db_type='milvus', ...)

Instalar dependencias

Instale las dependencias necesarias ejecutando el siguiente comando:

python3 -m venv enterprise_knowledge_env
source enterprise_knowledge_env/bin/activate
pip install -r requirements.txt

Iniciar la aplicación

Utilice el siguiente comando para iniciar la aplicación:

$ streamlit run streamlit/app.py --browser.gatherUsageStats false 

Después de eso, verá la interfaz de usuario en su navegador:http://localhost:8501/

Después de establecer su clave API SambaNova en la interfaz de usuario, puede jugar con la interfaz de usuario y hacer preguntas acerca de sus documentos.

Para más detalles, consulte la documentación oficial de Enterprise Knowledge Retrieval of SambaNova AI Starter Kits.

Traducido porDeepLogo

Try Managed Milvus for Free

Zilliz Cloud is hassle-free, powered by Milvus and 10x faster.

Get Started
Feedback

¿Fue útil esta página?