Utilizzare Milvus in DocsGPT

DocsGPT è una soluzione open-source avanzata che semplifica la ricerca di informazioni nella documentazione di progetto integrando potenti modelli GPT. Consente agli sviluppatori di ottenere facilmente risposte precise alle loro domande su un progetto, eliminando le lunghe ricerche manuali.

In questo tutorial vi mostreremo come utilizzare Milvus come database vettoriale di backend per DocsGPT.

Requisiti

Assicurarsi di avere installato Docker

Clonare il repository

Clonare il repository e accedervi:

$ git clone https://github.com/arc53/DocsGPT.git
$ cd DocsGPT

Aggiungi dipendenza

Aggiungere la dipendenza langchain-milvus al file requirements.txt nella cartella application:

$ echo "\nlangchain-milvus==0.1.6" >> ./application/requirements.txt

Impostare le variabili d'ambiente

Aggiungere VECTOR_STORE=milvus, MILVUS_URI=..., MILVUS_TOKEN=... alle variabili d'ambiente per entrambi i servizi backend e worker nel file docker-compose.yaml, in questo modo:

  backend:
    build: ./application
    environment:
      - VECTOR_STORE=milvus
      - MILVUS_URI=...
      - MILVUS_TOKEN=...

  worker:
    build: ./application
    command: celery -A application.app.celery worker -l INFO -B
    environment:
      - VECTOR_STORE=milvus
      - MILVUS_URI=...
      - MILVUS_TOKEN=...

Per i servizi MILVUS_URI e MILVUS_TOKEN, è possibile utilizzare il servizio Zilliz Cloud(consigliato) completamente gestito o il servizio Milvus avviato manualmente.

• Per il servizio Zilliz Cloud completamente gestito: Si consiglia di utilizzare il servizio Zilliz Cloud. È possibile registrarsi per un account di prova gratuito su Zilliz Cloud. Successivamente, si otterranno MILVUS_URI e MILVUS_TOKEN, che corrispondono all'endpoint pubblico e alla chiave API.

• Per il servizio Milvus avviato manualmente: Se si desidera configurare un servizio Milvus, è possibile seguire la documentazione ufficiale di Milvus per configurare un server Milvus, quindi ottenere MILVUS_URI e MILVUS_TOKEN dal server. MILVUS_URI e MILVUS_TOKEN devono essere rispettivamente nel formato http://<your_server_ip>:19530 e <your_username>:<your_password>.

Avviare i servizi

Eseguire: ./setup.sh

Quindi navigare su http://localhost:5173/.

È possibile giocare con l'interfaccia utente e porre domande sui documenti.

testo alt

Se si desidera arrestare i servizi, eseguire:

$ docker compose down

Per ulteriori dettagli e configurazioni più avanzate, consultare la documentazione ufficiale di DocsGPT.