milvus-logo
LFAI
Casa
  • Integrazioni

Utilizzare Milvus con SambaNova

SambaNova è una piattaforma tecnologica AI innovativa che accelera l'implementazione di funzionalità avanzate di AI e deep learning. Progettata per l'uso aziendale, consente alle organizzazioni di sfruttare l'AI generativa per migliorare le prestazioni e l'efficienza. Fornendo soluzioni all'avanguardia come SambaNova Suite e DataScale, la piattaforma consente alle aziende di estrarre informazioni preziose dai propri dati, migliorando le operazioni e promuovendo nuove opportunità nel panorama dell'AI.

I SambaNova AI Starter Kit sono una raccolta di risorse open-source progettate per assistere sviluppatori e aziende nell'implementazione di applicazioni AI con SambaNova. Questi kit forniscono esempi pratici e guide che facilitano l'implementazione di vari casi d'uso dell'AI, rendendo più facile per gli utenti sfruttare la tecnologia avanzata di SambaNova.

Questo tutorial sfrutta l'integrazione di Milvus negli Starter Kit AI di SambaNova per costruire un sistema di Enterprise Knowledge Retrieval, simile a RAG (Retrieval-Augmented Generation), per il reperimento e la risposta sulla base dei documenti privati aziendali.

Questo tutorial fa principalmente riferimento alla guida ufficiale di SambaNova AI Starter Kits. Se ritenete che questo tutorial abbia parti obsolete, potete seguire prioritariamente la guida ufficiale e creare un problema con noi.

Prerequisiti

Si consiglia di usare Python >= 3.10 e < 3.12.

Visitare il SambaNova Cloud per ottenere una chiave API SambaNova.

Clonare il repository

$ git clone https://github.com/sambanova/ai-starter-kit.git
$ d ai-starter-kit/enterprise_knowledge_retriever

Cambiare il tipo di archivio vettoriale

Cambiare l'archivio vettoriale impostando db_type='milvus' nelle funzioni create_vector_store() e load_vdb() in src/document_retrieval.py.

...
vectorstore = self.vectordb.create_vector_store(
    ..., db_type='milvus'
)
...
vectorstore = self.vectordb.load_vdb(..., db_type='milvus', ...)

Installare le dipendenze

Installare le dipendenze necessarie eseguendo il seguente comando:

python3 -m venv enterprise_knowledge_env
source enterprise_knowledge_env/bin/activate
pip install -r requirements.txt

Avviare l'applicazione

Utilizzare il seguente comando per avviare l'applicazione:

$ streamlit run streamlit/app.py --browser.gatherUsageStats false 

Successivamente, viene visualizzata l'interfaccia utente nel browser:http://localhost:8501/

Dopo aver impostato la chiave API SambaNova nell'interfaccia utente, è possibile giocare con l'interfaccia utente e porre domande sui documenti.

Per ulteriori dettagli, consultare la documentazione ufficiale di Enterprise Knowledge Retrieval of SambaNova AI Starter Kits.

Tradotto daDeepLogo

Try Managed Milvus for Free

Zilliz Cloud is hassle-free, powered by Milvus and 10x faster.

Get Started
Feedback

Questa pagina è stata utile?