使用 Milvus 部署 Dify

Dify是一個開放原始碼平台,旨在透過結合 Backend-as-a-Service 與 LLMOps 來簡化 AI 應用程式的建置。它支援主流的 LLM,提供直覺的提示協調介面、高品質的 RAG 引擎以及彈性的 AI 代理框架。Dify 具備低程式碼工作流程、易於使用的介面和 API,讓開發人員和非技術使用者都能專注於建立創新、真實世界的 AI 解決方案,而無需處理複雜的問題。

在本教程中,我們將教您如何使用 Milvus 部署 Dify,以實現高效的檢索和 RAG 引擎。

本文件主要以Dify 官方文件為基礎。如果您發現任何過時或不一致的內容,請優先使用官方文件,並隨時向我們提出問題。

先決條件

克隆儲存庫

克隆 Dify 原始碼到您的本機:

git clone https://github.com/langgenius/dify.git

準備環境組態

導覽到 Dify 原始碼中的 Docker 目錄

cd dify/docker

複製環境配置檔案

cp .env.example .env

部署選項

您可以使用兩種不同的方式,在 Milvus 部署 Dify。選擇最適合您需求的一種:

選項 1:使用 Milvus 與 Docker

此選項使用 Docker Compose 在您的本地機器上執行 Milvus 容器與 Dify。

設定環境變數

使用下列 Milvus 配置編輯.env 檔案:

VECTOR_STORE=milvus
MILVUS_URI=http://host.docker.internal:19530
MILVUS_TOKEN=
  • MILVUS_URI 使用host.docker.internal:19530 ,它允許 Docker 容器透過 Docker 的內部網路存取在主機上執行的 Milvus。
  • MILVUS_TOKEN 對於本機的 Milvus 部署,可以留空。

啟動 Docker 容器

使用milvus 設定檔啟動容器,以包含 Milvus 服務:

docker compose --profile milvus up -d

此指令會啟動 Dify 服務以及milvus-standaloneetcdminio 容器。

選項 2:使用 Zilliz Cloud

此選項可將 Dify 連接到 Zilliz Cloud 上受管理的 Milvus 服務。

設定環境變數

使用您的 Zilliz Cloud 連線詳細資訊編輯.env 檔案:

VECTOR_STORE=milvus
MILVUS_URI=YOUR_ZILLIZ_CLOUD_ENDPOINT
MILVUS_TOKEN=YOUR_ZILLIZ_CLOUD_API_KEY
  • 以 Zilliz Cloud 的公共端點取代YOUR_ZILLIZ_CLOUD_ENDPOINT
  • 以 Zilliz Cloud 的API 金鑰取代YOUR_ZILLIZ_CLOUD_API_KEY

啟動 Docker Containers

只啟動 Dify 容器,不啟動 Milvus profile:

docker compose up -d

存取 Dify

登入 Dify

打開瀏覽器,進入 Dify 安裝頁面,您可以在這裡設定您的管理帳號:http://localhost/install ,然後登入 Dify 主頁面進一步使用。

進一步的使用方法及指導,請參考Dify 說明文件

免費嘗試托管的 Milvus

Zilliz Cloud 無縫接入,由 Milvus 提供動力,速度提升 10 倍。

開始使用
反饋

這個頁面有幫助嗎?