Despliegue de Dify con Milvus

Dify es una plataforma de código abierto diseñada para simplificar la creación de aplicaciones de IA combinando Backend-as-a-Service con LLMOps. Es compatible con los principales LLM, ofrece una interfaz de orquestación rápida e intuitiva, motores RAG de alta calidad y un marco de agentes de IA flexible. Con flujos de trabajo de bajo código, interfaces fáciles de usar y APIs, Dify permite tanto a desarrolladores como a usuarios no técnicos centrarse en la creación de soluciones de IA innovadoras y reales sin tener que lidiar con la complejidad.

En este tutorial, le mostraremos cómo desplegar Dify con Milvus, para permitir una recuperación eficiente y un motor RAG.

Clonar el Repositorio

Clona el código fuente de Dify en tu máquina local:

git clone https://github.com/langgenius/dify.git

Establezca las variables de entorno

Navega al directorio Docker en el código fuente de Dify

cd dify/docker

Copia el archivo de configuración del entorno

cp .env.example .env

Cambia el valor VECTOR_STORE en el archivo .env

VECTOR_STORE=milvus

Asegúrese de que la configuración de Milvus en el archivo .env tiene la siguiente línea:

MILVUS_URI=http://host.docker.internal:19530

Tenga en cuenta que al especificar VECTOR_STORE=milvus, Dify traerá un servidor Milvus Standalone en docker. A pesar de que puede acceder al servidor desde fuera del Docker a través de http://localhost:19530, para que otros contenedores Dify puedan hablar con él dentro del entorno Docker, necesitan conectarse al nombre DNS especial host.docker.internal. Por lo tanto, establecemos http://host.docker.internal:19530 como MILVUS_URI.

Para el despliegue de producción es posible que desee personalizar la autenticación. Para más información sobre cómo establecer token o nombre de usuario y contraseña en Milvus, puede consultar la página de autenticación.

Inicie los contenedores Docker

Elija el comando apropiado para iniciar los contenedores basado en la versión de Docker Compose en su sistema. Puede utilizar el comando $ docker compose version para comprobar la versión y consultar la documentación de Docker para obtener más información:

Si tiene Docker Compose V2, utilice el siguiente comando:

docker compose up -d

Si tiene Docker Compose V1, utilice el siguiente comando:

docker compose up -d

Inicie sesión en Dify

Abra su navegador y vaya a la página de instalación de Dify, y puede configurar su cuenta de administrador aquí:http://localhost/install, Y luego inicie sesión en la página principal de Dify para su uso posterior.

Para mayor uso y orientación, por favor refiérase a la documentación de Dify.