Distribuzione di Dify con Milvus
Dify è una piattaforma open-source progettata per semplificare la creazione di applicazioni AI combinando Backend-as-a-Service con LLMOps. Supporta i principali LLM, offre un'interfaccia di orchestrazione immediata e intuitiva, motori RAG di alta qualità e un framework di agenti AI flessibile. Grazie ai flussi di lavoro low-code, alle interfacce e alle API facili da usare, Dify consente agli sviluppatori e agli utenti non tecnici di concentrarsi sulla creazione di soluzioni AI innovative e reali senza dover affrontare la complessità.
In questo tutorial vi mostreremo come implementare Dify con Milvus, per abilitare un efficiente motore di recupero e RAG.
Questa documentazione si basa principalmente sulla documentazione ufficiale di Dify. Se trovate contenuti obsoleti o incoerenti, date priorità alla documentazione ufficiale e non esitate a segnalarci un problema.
Prerequisiti
Clonare il repository
Clonare il codice sorgente di Dify sul proprio computer locale:
git clone https://github.com/langgenius/dify.git
Preparare la configurazione dell'ambiente
Navigare nella directory Docker del codice sorgente di Dify.
cd dify/docker
Copiare il file di configurazione dell'ambiente
cp .env.example .env
Opzioni di distribuzione
È possibile distribuire Dify con Milvus utilizzando due approcci diversi. Scegliete quello più adatto alle vostre esigenze:
Opzione 1: Utilizzo di Milvus con Docker
Questa opzione esegue i contenitori Milvus insieme a Dify sulla macchina locale utilizzando Docker Compose.
Configurare le variabili d'ambiente
Modificare il file .env con la seguente configurazione di Milvus:
VECTOR_STORE=milvus
MILVUS_URI=http://host.docker.internal:19530
MILVUS_TOKEN=
MILVUS_URIutilizzahost.docker.internal:19530che consente ai contenitori Docker di accedere a Milvus in esecuzione sulla macchina host attraverso la rete interna di Docker.MILVUS_TOKENpuò essere lasciato vuoto per le distribuzioni locali di Milvus.
Avviare i contenitori Docker
Avviare i contenitori con il profilo milvus per includere i servizi Milvus:
docker compose --profile milvus up -d
Questo comando avvierà il servizio Dify insieme ai contenitori milvus-standalone, etcd e minio.
Opzione 2: Utilizzo di Zilliz Cloud
Questa opzione collega Dify a un servizio Milvus gestito su Zilliz Cloud.
Configurare le variabili d'ambiente
Modificare il file .env con i dettagli della connessione a Zilliz Cloud:
VECTOR_STORE=milvus
MILVUS_URI=YOUR_ZILLIZ_CLOUD_ENDPOINT
MILVUS_TOKEN=YOUR_ZILLIZ_CLOUD_API_KEY
- Sostituire
YOUR_ZILLIZ_CLOUD_ENDPOINTcon l'endpoint pubblico di Zilliz Cloud. - Sostituire
YOUR_ZILLIZ_CLOUD_API_KEYcon la chiave API di Zilliz Cloud.
Avviare i contenitori Docker
Avviare solo i contenitori Dify senza il profilo Milvus:
docker compose up -d
Accesso a Dify
Accedere a Dify
Aprire il browser e andare alla pagina di installazione di Dify; è possibile impostare l'account di amministrazione qui:http://localhost/install, quindi accedere alla pagina principale di Dify per ulteriori utilizzi.
Per ulteriori informazioni e indicazioni, consultare la documentazione di Dify.