使用 Milvus 部署 Dify
Dify是一個開放原始碼平台,旨在透過結合 Backend-as-a-Service 與 LLMOps 來簡化 AI 應用程式的建置。它支援主流的 LLM,提供直覺的提示協調介面、高品質的 RAG 引擎以及彈性的 AI 代理框架。Dify 具備低程式碼工作流程、易於使用的介面和 API,讓開發人員和非技術使用者都能專注於建立創新、真實世界的 AI 解決方案,而無需處理複雜的問題。
在本教程中,我們將教您如何使用 Milvus 部署 Dify,以實現高效的檢索和 RAG 引擎。
先決條件
克隆儲存庫
克隆 Dify 原始碼到您的本機:
git clone https://github.com/langgenius/dify.git
準備環境組態
導覽到 Dify 原始碼中的 Docker 目錄
cd dify/docker
複製環境配置檔案
cp .env.example .env
部署選項
您可以使用兩種不同的方式,在 Milvus 部署 Dify。選擇最適合您需求的一種:
選項 1:使用 Milvus 與 Docker
此選項使用 Docker Compose 在您的本地機器上執行 Milvus 容器與 Dify。
設定環境變數
使用下列 Milvus 配置編輯.env 檔案:
VECTOR_STORE=milvus
MILVUS_URI=http://host.docker.internal:19530
MILVUS_TOKEN=
MILVUS_URI使用host.docker.internal:19530,它允許 Docker 容器透過 Docker 的內部網路存取在主機上執行的 Milvus。MILVUS_TOKEN對於本機的 Milvus 部署,可以留空。
啟動 Docker 容器
使用milvus 設定檔啟動容器,以包含 Milvus 服務:
docker compose --profile milvus up -d
此指令會啟動 Dify 服務以及milvus-standalone 、etcd 和minio 容器。
選項 2:使用 Zilliz Cloud
此選項可將 Dify 連接到 Zilliz Cloud 上受管理的 Milvus 服務。
設定環境變數
使用您的 Zilliz Cloud 連線詳細資訊編輯.env 檔案:
VECTOR_STORE=milvus
MILVUS_URI=YOUR_ZILLIZ_CLOUD_ENDPOINT
MILVUS_TOKEN=YOUR_ZILLIZ_CLOUD_API_KEY
啟動 Docker Containers
只啟動 Dify 容器,不啟動 Milvus profile:
docker compose up -d
存取 Dify
登入 Dify
打開瀏覽器,進入 Dify 安裝頁面,您可以在這裡設定您的管理帳號:http://localhost/install ,然後登入 Dify 主頁面進一步使用。
進一步的使用方法及指導,請參考Dify 說明文件。