使用 Milvus 部署 Dify
Dify是一個開放原始碼平台,旨在透過結合 Backend-as-a-Service 與 LLMOps 來簡化 AI 應用程式的建置。它支援主流的 LLM,提供直覺的提示協調介面、高品質的 RAG 引擎以及彈性的 AI 代理框架。Dify 具備低程式碼工作流程、易於使用的介面和 API,讓開發人員和非技術使用者都能專注於建立創新、真實世界的 AI 解決方案,而無需處理複雜的問題。
在本教程中,我們將教您如何使用 Milvus 部署 Dify,以實現高效的檢索和 RAG 引擎。
克隆儲存庫
克隆 Dify 原始碼到您的本機:
git clone https://github.com/langgenius/dify.git
設定環境變數
導覽到 Dify 原始碼中的 Docker 目錄
cd dify/docker
複製環境配置檔案
cp .env.example .env
變更.env
檔案中的值VECTOR_STORE
VECTOR_STORE=milvus
確保.env
檔案中的 Milvus 配置有以下一行:
MILVUS_URI=http://host.docker.internal:19530
注意指定VECTOR_STORE=milvus
, Dify 會在 docker 中啟動 Milvus Standalone 伺服器。即使您可以從 Docker 外部透過http://localhost:19530
存取伺服器,其他 Dify 容器若要在 Docker 環境內與它對話,就需要連線到特殊的 DNS 名稱host.docker.internal
。因此,我們將http://host.docker.internal:19530
設定為MILVUS_URI
。
對於生產部署,您可能想要自訂認證。關於如何在 Milvus 設定 token 或使用者名稱和密碼的詳細資訊,您可以參考authenticate 頁面。
啟動 Docker Containers
根據您系統上的 Docker Compose 版本,選擇適當的指令來啟動容器。您可以使用$ docker compose version
指令檢查版本,更多資訊請參考 Docker 文件:
如果您有 Docker Compose V2,請使用下列指令:
docker compose up -d
如果您有 Docker Compose V1,請使用下列指令:
docker compose up -d
登入 Dify
開啟瀏覽器並進入 Dify 安裝頁面,您可以在這裡設定您的管理帳號:http://localhost/install
,然後登入 Dify 主頁面進一步使用。
進一步的使用方法及指導,請參考Dify 說明文件。