DocsGPT에서 Milvus 사용

DocsGPT는 강력한 GPT 모델을 통합하여 프로젝트 문서에서 정보 검색을 간소화하는 고급 오픈 소스 솔루션입니다. 이를 통해 개발자는 프로젝트에 대한 질문에 대한 정확한 답변을 쉽게 얻을 수 있으므로 시간이 많이 걸리는 수동 검색을 하지 않아도 됩니다.

이 튜토리얼에서는 Milvus를 DocsGPT의 백엔드 벡터 데이터베이스로 사용하는 방법을 보여드리겠습니다.

요구 사항

Docker가 설치되어 있는지 확인합니다.

리포지토리 복제

리포지토리를 복제하고 리포지토리로 이동합니다:

$ git clone https://github.com/arc53/DocsGPT.git
$ cd DocsGPT

종속성 추가

application 폴더 아래의 requirements.txt 파일에 langchain-milvus 종속성을 추가합니다:

$ echo "\nlangchain-milvus==0.1.6" >> ./application/requirements.txt

환경 변수 설정

docker-compose.yaml 파일의 backend 및 worker 서비스에 대한 환경 변수에 VECTOR_STORE=milvus, MILVUS_URI=..., MILVUS_TOKEN=... 를 다음과 같이 추가합니다:

  backend:
    build: ./application
    environment:
      - VECTOR_STORE=milvus
      - MILVUS_URI=...
      - MILVUS_TOKEN=...

  worker:
    build: ./application
    command: celery -A application.app.celery worker -l INFO -B
    environment:
      - VECTOR_STORE=milvus
      - MILVUS_URI=...
      - MILVUS_TOKEN=...

MILVUS_URI, MILVUS_TOKEN 의 경우, 완전 관리형 질리즈 클라우드(권장) 서비스를 사용하거나 수동으로 밀버스 서비스를 시작할 수 있습니다.

• 완전 관리형 질리즈 클라우드 서비스의 경우: 질리즈 클라우드 서비스 사용을 권장합니다. 질리즈 클라우드에서 무료 체험 계정을 신청할 수 있습니다. 그 후 퍼블릭 엔드포인트와 API 키에 해당하는 MILVUS_URI 및 MILVUS_TOKEN 을 받게 됩니다.

• 수동으로 Milvus 서비스를 시작하려면: 밀버스 서비스를 설정하려면 밀버스 공식 문서에 따라 밀버스 서버를 설정한 후 해당 서버에서 MILVUS_URI 및 MILVUS_TOKEN 을 받으면 됩니다. MILVUS_URI 및 MILVUS_TOKEN 은 각각 http://<your_server_ip>:19530 및 <your_username>:<your_password> 형식이어야 합니다.

서비스 시작하기

실행을 클릭합니다: ./setup.sh

http://localhost:5173/ 으로 이동합니다.

UI를 살펴보고 문서에 대해 질문할 수 있습니다.

대체 텍스트

서비스를 중지하려면 실행을 클릭합니다:

$ docker compose down

자세한 내용 및 고급 설정에 대한 자세한 내용은 DocsGPT 공식 문서를 참조하세요.