Distribuzione di Dify con Milvus

Dify è una piattaforma open-source progettata per semplificare la creazione di applicazioni AI combinando Backend-as-a-Service con LLMOps. Supporta i principali LLM, offre un'interfaccia di orchestrazione immediata e intuitiva, motori RAG di alta qualità e un framework di agenti AI flessibile. Grazie ai flussi di lavoro low-code, alle interfacce e alle API facili da usare, Dify consente agli sviluppatori e agli utenti non tecnici di concentrarsi sulla creazione di soluzioni AI innovative e reali senza dover affrontare la complessità.

In questo tutorial vi mostreremo come implementare Dify con Milvus, per abilitare un efficiente motore di recupero e RAG.

Clonare il repository

Clonare il codice sorgente di Dify sulla propria macchina locale:

git clone https://github.com/langgenius/dify.git

Impostare le variabili d'ambiente

Navigare nella directory Docker del codice sorgente di Dify.

cd dify/docker

Copiare il file di configurazione dell'ambiente

cp .env.example .env

Cambiare il valore VECTOR_STORE nel file .env

VECTOR_STORE=milvus

Modificare la configurazione di Milvus nel file .env.

MILVUS_URI=xxx
MILVUS_TOKEN=xxx

In questa configurazione, utilizzare l'URI esterno del server, ad esempiohttp://172.16.16.16:19530, come MILVUS_URI.

Per il file MILVUS_TOKEN, se non è stato impostato un token per il server Milvus, è possibile impostarlo su una stringa vuota come MILVUS_TOKEN=, altrimenti è necessario impostarlo sul proprio token Milvus. Per ulteriori informazioni su come impostare il token in Milvus, si può fare riferimento alla pagina authenticate.

Avviare i contenitori Docker

Scegliere il comando appropriato per avviare i contenitori in base alla versione di Docker Compose presente sul sistema. È possibile utilizzare il comando $ docker compose version per verificare la versione e fare riferimento alla documentazione di Docker per ulteriori informazioni:

Se si dispone di Docker Compose V2, utilizzare il seguente comando:

docker compose up -d

Se si dispone di Docker Compose V1, utilizzare il seguente comando:

docker compose up -d

Accedere a Dify

Aprire il browser e accedere alla pagina di installazione di Dify; è possibile impostare l'account di amministrazione qui:http://localhost/install, quindi accedere alla pagina principale di Dify per ulteriori utilizzi.

Per ulteriori informazioni e indicazioni, consultare la documentazione di Dify.