Verwenden Sie Milvus mit SambaNova
SambaNova ist eine innovative KI-Technologieplattform, die den Einsatz fortschrittlicher KI- und Deep-Learning-Funktionen beschleunigt. Sie wurde für den Einsatz in Unternehmen entwickelt und ermöglicht es Organisationen, generative KI für mehr Leistung und Effizienz zu nutzen. Durch die Bereitstellung von Spitzenlösungen wie der SambaNova Suite und DataScale ermöglicht die Plattform Unternehmen, wertvolle Erkenntnisse aus ihren Daten zu gewinnen, betriebliche Verbesserungen voranzutreiben und neue Möglichkeiten in der KI-Landschaft zu fördern.
Die SambaNova AI Starter Kits sind eine Sammlung von Open-Source-Ressourcen, die Entwicklern und Unternehmen bei der Implementierung von KI-gesteuerten Anwendungen mit SambaNova helfen sollen. Diese Kits enthalten praktische Beispiele und Anleitungen, die die Implementierung verschiedener KI-Anwendungsfälle erleichtern und es den Benutzern ermöglichen, die fortschrittliche Technologie von SambaNova zu nutzen.
Dieses Tutorial nutzt die Milvus-Integration in den SambaNova AI Starter Kits, um ein Enterprise Knowledge Retrieval System, ähnlich wie RAG (Retrieval-Augmented Generation), für das Retrieval und die Beantwortung von Fragen auf Basis der privaten Dokumente des Unternehmens zu erstellen.
Dieses Tutorial bezieht sich hauptsächlich auf das offizielle SambaNova AI Starter Kits Handbuch. Wenn Sie feststellen, dass dieses Tutorial veraltete Teile enthält, können Sie sich vorrangig an die offizielle Anleitung halten und eine Anfrage an uns stellen.
Voraussetzungen
Wir empfehlen die Verwendung von Python >= 3.10 und < 3.12.
Besuchen Sie die SambaNova Cloud, um einen SambaNova API Schlüssel zu erhalten.
Klonen Sie das Repository
$ git clone https://github.com/sambanova/ai-starter-kit.git
$ d ai-starter-kit/enterprise_knowledge_retriever
Ändern Sie den Typ des Vektorspeichers
Ändern Sie den Vektorspeicher, indem Sie db_type='milvus' in den Funktionen create_vector_store() und load_vdb() in src/document_retrieval.py einstellen.
...
vectorstore = self.vectordb.create_vector_store(
..., db_type='milvus'
)
...
vectorstore = self.vectordb.load_vdb(..., db_type='milvus', ...)
Installieren Sie Abhängigkeiten
Installieren Sie die erforderlichen Abhängigkeiten, indem Sie den folgenden Befehl ausführen:
python3 -m venv enterprise_knowledge_env
source enterprise_knowledge_env/bin/activate
pip install -r requirements.txt
Starten Sie die Anwendung
Verwenden Sie den folgenden Befehl, um die Anwendung zu starten:
$ streamlit run streamlit/app.py --browser.gatherUsageStats false
Danach sehen Sie die Benutzeroberfläche in Ihrem Browser:http://localhost:8501/
Nachdem Sie Ihren SambaNova-API-Schlüssel in der Benutzeroberfläche festgelegt haben, können Sie mit der Benutzeroberfläche spielen und Fragen zu Ihren Dokumenten stellen.
Weitere Details finden Sie in der offiziellen Dokumentation zum Enterprise Knowledge Retrieval des SambaNova AI Starter Kits.
