Verwenden Sie Milvus in DocsGPT

DocsGPT ist eine fortschrittliche Open-Source-Lösung, die das Auffinden von Informationen in der Projektdokumentation durch die Integration von leistungsstarken GPT-Modellen vereinfacht. Sie ermöglicht es Entwicklern, auf einfache Weise genaue Antworten auf ihre Fragen zu einem Projekt zu erhalten, wodurch zeitaufwändige manuelle Suchen vermieden werden.

In diesem Tutorial zeigen wir Ihnen, wie Sie Milvus als Backend-Vektor-Datenbank für DocsGPT verwenden.

Anforderungen

Stellen Sie sicher, dass Sie Docker installiert haben

Klonen Sie das Repository

Klonen Sie das Repository und navigieren Sie zu ihm:

$ git clone https://github.com/arc53/DocsGPT.git
$ cd DocsGPT

Add dependency

Fügen Sie die Abhängigkeit langchain-milvus an die Datei requirements.txt im Ordner application an:

$ echo "\nlangchain-milvus==0.1.6" >> ./application/requirements.txt

Umgebungsvariablen setzen

Fügen Sie VECTOR_STORE=milvus, MILVUS_URI=..., MILVUS_TOKEN=... zu den Umgebungsvariablen für die beiden Dienste backend und worker in der Datei docker-compose.yaml hinzu, genau so:

  backend:
    build: ./application
    environment:
      - VECTOR_STORE=milvus
      - MILVUS_URI=...
      - MILVUS_TOKEN=...

  worker:
    build: ./application
    command: celery -A application.app.celery worker -l INFO -B
    environment:
      - VECTOR_STORE=milvus
      - MILVUS_URI=...
      - MILVUS_TOKEN=...

Für die Dienste MILVUS_URI und MILVUS_TOKEN können Sie entweder den vollständig verwalteten Dienst Zilliz Cloud(empfohlen) oder den manuell gestarteten Dienst Milvus verwenden.

• Für den vollständig verwalteten Zillz Cloud-Dienst: Wir empfehlen die Verwendung des Zilliz-Cloud-Dienstes. Sie können sich für ein kostenloses Testkonto bei Zilliz Cloud anmelden. Danach erhalten Sie die MILVUS_URI und MILVUS_TOKEN, die dem öffentlichen Endpunkt und dem API-Schlüssel entsprechen.

• Für manuell gestartete Milvus-Dienste: Wenn Sie einen Milvus-Dienst einrichten möchten, können Sie der offiziellen Milvus-Dokumentation folgen, um einen Milvus-Server einzurichten, und dann die MILVUS_URI und MILVUS_TOKEN vom Server abrufen. Die Dateien MILVUS_URI und MILVUS_TOKEN sollten das Format http://<your_server_ip>:19530 bzw. <your_username>:<your_password> haben.

Starten Sie die Dienste

Ausführen: ./setup.sh

Navigieren Sie dann zu http://localhost:5173/.

Sie können mit der Benutzeroberfläche herumspielen und Fragen zu Ihren Dokumenten stellen.

Alt-Text

Wenn Sie die Dienste stoppen wollen, führen Sie aus:

$ docker compose down

Weitere Details und fortgeschrittene Einstellungen finden Sie in der offiziellen DocsGPT-Dokumentation.