Milvus로 Dify 배포하기
Dify는 서비스형 백엔드와 LLMOps를 결합하여 AI 애플리케이션 구축을 간소화하도록 설계된 오픈 소스 플랫폼입니다. 주요 LLM을 지원하고, 직관적인 프롬프트 오케스트레이션 인터페이스, 고품질 RAG 엔진, 유연한 AI 에이전트 프레임워크를 제공합니다. 로우코드 워크플로, 사용하기 쉬운 인터페이스 및 API를 통해 개발자와 비기술자 모두 복잡한 문제를 처리하지 않고도 혁신적인 실제 AI 솔루션을 만드는 데 집중할 수 있습니다.
이 튜토리얼에서는 Milvus와 함께 Dify를 배포하여 효율적인 검색 및 RAG 엔진을 활성화하는 방법을 보여드립니다.
이 문서는 주로 공식 Dify 문서를 기반으로 합니다. 오래되었거나 일관성이 없는 내용을 발견하면 공식 문서를 우선적으로 참조하시고 언제든지 문제를 제기해 주세요.
전제 조건
리포지토리 복제
Dify 소스 코드를 로컬 머신에 복제합니다:
git clone https://github.com/langgenius/dify.git
환경 구성 준비
Dify 소스 코드의 Docker 디렉토리로 이동합니다.
cd dify/docker
환경 구성 파일을 복사합니다.
cp .env.example .env
배포 옵션
두 가지 접근 방식을 사용하여 Milvus와 함께 Dify를 배포할 수 있습니다. 필요에 가장 적합한 방법을 선택하세요:
옵션 1: Docker와 함께 Milvus 사용
이 옵션은 Docker Compose를 사용하여 로컬 머신에서 Dify와 함께 Milvus 컨테이너를 실행합니다.
환경 변수 구성
.env 파일을 다음 Milvus 구성으로 편집합니다:
VECTOR_STORE=milvus
MILVUS_URI=http://host.docker.internal:19530
MILVUS_TOKEN=
MILVUS_URI은host.docker.internal:19530을 사용하여 Docker 컨테이너가 Docker의 내부 네트워크를 통해 호스트 머신에서 실행 중인 Milvus에 액세스할 수 있도록 합니다.MILVUS_TOKEN는 로컬 Milvus 배포를 위해 비워둘 수 있습니다.
Docker 컨테이너 시작
Milvus 서비스를 포함하도록 milvus 프로필로 컨테이너를 시작합니다:
docker compose --profile milvus up -d
이 명령은 milvus-standalone, etcd, minio 컨테이너와 함께 Dify 서비스를 시작합니다.
옵션 2: Zilliz Cloud 사용
이 옵션은 Dify를 Zilliz Cloud의 관리형 Milvus 서비스에 연결합니다.
환경 변수 구성
.env 파일을 질리즈 클라우드 연결 정보로 수정합니다:
VECTOR_STORE=milvus
MILVUS_URI=YOUR_ZILLIZ_CLOUD_ENDPOINT
MILVUS_TOKEN=YOUR_ZILLIZ_CLOUD_API_KEY
YOUR_ZILLIZ_CLOUD_ENDPOINT을 질리즈 클라우드의 퍼블릭 엔드포인트로 바꿉니다.YOUR_ZILLIZ_CLOUD_API_KEY을 질리즈 클라우드의 API 키로 바꿉니다.
Docker 컨테이너 시작
Milvus 프로파일 없이 Dify 컨테이너만 시작합니다:
docker compose up -d
Dify 접속하기
Dify에 로그인합니다.
브라우저를 열고 Dify 설치 페이지로 이동하여 관리자 계정을 설정합니다:http://localhost/install, 이후 Dify 메인 페이지에 로그인하여 사용하세요.
자세한 사용법과 안내는 Dify 문서를 참조하세요.