Milvus로 Dify 배포하기

Dify는 서비스형 백엔드와 LLMOps를 결합하여 AI 애플리케이션 구축을 간소화하도록 설계된 오픈 소스 플랫폼입니다. 주요 LLM을 지원하고, 직관적인 프롬프트 오케스트레이션 인터페이스, 고품질 RAG 엔진, 유연한 AI 에이전트 프레임워크를 제공합니다. 로우코드 워크플로, 사용하기 쉬운 인터페이스 및 API를 통해 개발자와 비기술자 모두 복잡한 문제를 처리하지 않고도 혁신적인 실제 AI 솔루션을 만드는 데 집중할 수 있습니다.

이 튜토리얼에서는 Milvus와 함께 Dify를 배포하여 효율적인 검색 및 RAG 엔진을 활성화하는 방법을 보여드립니다.

리포지토리 복제

Dify 소스 코드를 로컬 머신에 복제합니다:

git clone https://github.com/langgenius/dify.git

환경 변수 설정

Dify 소스 코드의 Docker 디렉토리로 이동합니다.

cd dify/docker

환경 구성 파일을 복사합니다.

cp .env.example .env

.env 파일에서 VECTOR_STORE 값을 변경합니다.

VECTOR_STORE=milvus

.env 파일에서 Milvus 구성을 변경합니다.

MILVUS_URI=xxx
MILVUS_TOKEN=xxx

이 설정에서는 서버의 외부 URI(예:http://172.16.16.16:19530)를 MILVUS_URI 으로 사용하세요.

MILVUS_TOKEN 의 경우 Milvus 서버에 대한 토큰을 설정하지 않은 경우 MILVUS_TOKEN= 과 같은 빈 문자열로 설정할 수 있으며, 그렇지 않은 경우 Milvus 토큰으로 설정해야 합니다. Milvus에서 토큰을 설정하는 방법에 대한 자세한 내용은 인증 페이지를 참조하세요.

Docker 컨테이너 시작

사용 중인 시스템의 Docker Compose 버전에 따라 적절한 명령을 선택하여 컨테이너를 시작합니다. $ docker compose version 명령어를 사용하여 버전을 확인할 수 있으며, 자세한 내용은 Docker 설명서를 참조하세요:

Docker Compose V2를 사용하는 경우 다음 명령을 사용합니다:

docker compose up -d

Docker Compose V1을 사용하는 경우 다음 명령을 사용합니다:

docker compose up -d

Dify에 로그인합니다.

브라우저를 열고 Dify 설치 페이지로 이동한 다음 여기에서 관리자 계정을 설정할 수 있습니다:http://localhost/install, 그런 다음 기본 Dify 페이지에 로그인하여 추가 사용법을 알아보세요.

자세한 사용법과 안내는 Dify 설명서를 참조하세요.