Milvus in AnythingLLM verwenden
AnythingLLM ist eine leistungsstarke, auf Datenschutz ausgerichtete KI-Desktop-Anwendung, die verschiedene LLMs, Dokumenttypen und Vektordatenbanken unterstützt. Sie ermöglicht es Ihnen, einen privaten, ChatGPT-ähnlichen Assistenten zu erstellen, der lokal ausgeführt oder aus der Ferne gehostet werden kann und es Ihnen ermöglicht, intelligent mit allen von Ihnen bereitgestellten Dokumenten zu chatten.
Diese Anleitung führt Sie durch die Konfiguration von Milvus als Vektordatenbank in AnythingLLM, die es Ihnen ermöglicht, Ihre Dokumente einzubetten, zu speichern und zu durchsuchen, um sie intelligent abzurufen und zu chatten.
Diese Anleitung basiert auf der offiziellen AnythingLLM-Dokumentation und den realen Nutzungsschritten. Sollte sich die Benutzeroberfläche oder die Schritte ändern, beziehen Sie sich bitte auf die neuesten offiziellen Dokumente und machen Sie Verbesserungsvorschläge.
1. Voraussetzungen
- Milvus lokal installiert oder ein Zilliz Cloud-Konto
- AnythingLLM Desktop installiert
- Dokumente oder Datenquellen, die zum Hochladen und Einbetten bereit sind (PDF, Word, CSV, Webseiten, etc.)
2. Konfigurieren Sie Milvus als Vektordatenbank
- Öffnen Sie AnythingLLM und klicken Sie auf das Einstellungssymbol in der unteren linken Ecke
Einstellungen öffnen
Wählen Sie im linken Menü
AI Providers>Vector Database
Wählen Sie Vektordatenbank Wählen Sie in der Dropdown-Liste Vektordatenbankanbieter Milvus (oder Zilliz Cloud)
Wählen Sie Milvus Geben Sie Ihre Milvus-Verbindungsdetails ein (für lokales Milvus). Hier ist ein Beispiel:
- Milvus DB Adresse:
http://localhost:19530 - Milvus Benutzername:
root - Milvus Kennwort:
Milvus
Milvus-Verbindung
Wenn Sie Zilliz Cloud verwenden, geben Sie stattdessen Ihren Cluster-Endpunkt und Ihr API-Token ein:
Zilliz-Cloud-Verbindung - Milvus DB Adresse:
Klicken Sie auf Änderungen speichern, um Ihre Einstellungen zu übernehmen.
3. Erstellen Sie einen Arbeitsbereich und laden Sie Dokumente hoch
Geben Sie Ihren Arbeitsbereich ein und klicken Sie auf das Upload-Symbol, um den Dialog zum Hochladen von Dokumenten zu öffnen
Upload-Dialog öffnen Sie können eine breite Palette von Datenquellen hochladen:
- Lokale Dateien: PDF, Word, CSV, TXT, Audiodateien, usw.
- Web-Seiten: Fügen Sie eine URL ein und rufen Sie den Inhalt einer Website direkt ab.
Dokumente hochladen Klicken Sie nach dem Hochladen oder Abrufen auf In Arbeitsbereich verschieben, um das Dokument oder die Daten in Ihren aktuellen Arbeitsbereich zu verschieben
In Arbeitsbereich verschieben Wählen Sie das Dokument oder die Daten aus und klicken Sie auf Speichern und einbetten. AnythingLLM wird Ihre Inhalte automatisch in Milvus chunking, einbetten und speichern
Speichern und einbetten
4. Chatten und Antworten aus Milvus abrufen
- Kehren Sie zur Chat-Schnittstelle des Arbeitsbereichs zurück und stellen Sie Fragen. AnythingLLM durchsucht Ihre Milvus-Vektordatenbank nach relevanten Inhalten und verwendet den LLM, um Antworten zu generieren.
Chatten mit Docs