Implantação do Dify com o Milvus

O Dify é uma plataforma de código aberto projetada para simplificar a criação de aplicativos de IA, combinando o Backend-as-a-Service com LLMOps. Ele oferece suporte aos LLMs principais, oferece uma interface de orquestração rápida e intuitiva, mecanismos RAG de alta qualidade e uma estrutura de agente de IA flexível. Com fluxos de trabalho de baixo código, interfaces fáceis de usar e APIs, o Dify permite que desenvolvedores e usuários não técnicos se concentrem na criação de soluções de IA inovadoras e reais sem lidar com a complexidade.

Neste tutorial, mostraremos como implantar o Dify com o Milvus, para permitir a recuperação eficiente e o mecanismo RAG.

Clonar o repositório

Clone o código-fonte do Dify para sua máquina local:

git clone https://github.com/langgenius/dify.git

Definir as variáveis de ambiente

Navegue até o diretório Docker no código-fonte do Dify

cd dify/docker

Copie o ficheiro de configuração do ambiente

cp .env.example .env

Alterar o valor VECTOR_STORE no ficheiro .env

VECTOR_STORE=milvus

Certifique-se de que a configuração do Milvus no ficheiro .env tem a seguinte linha:

MILVUS_URI=http://host.docker.internal:19530

Observe que, ao especificar VECTOR_STORE=milvus, o Dify exibirá um servidor Milvus Standalone no Docker. Mesmo que possa aceder ao servidor a partir do exterior do Docker através de http://localhost:19530, para que outros contentores Dify falem com ele dentro do ambiente Docker, necessitam de se ligar ao nome DNS especial host.docker.internal. Assim, definimos http://host.docker.internal:19530 como MILVUS_URI.

Para a implementação de produção, poderá querer personalizar a autenticação. Para obter mais informações sobre como definir o token ou o nome de utilizador e a palavra-passe no Milvus, pode consultar a página de autenticação.

Iniciar os contentores Docker

Escolha o comando apropriado para iniciar os contentores com base na versão do Docker Compose no seu sistema. Pode utilizar o comando $ docker compose version para verificar a versão e consultar a documentação do Docker para obter mais informações:

Se você tiver o Docker Compose V2, use o seguinte comando:

docker compose up -d

Se tiver o Docker Compose V1, utilize o seguinte comando:

docker compose up -d

Iniciar sessão no Dify

Abra o seu browser e aceda à página de instalação da Dify e pode definir a sua conta de administrador aqui:http://localhost/install, e, em seguida, inicie sessão na página principal da Dify para utilização posterior.

Para mais utilização e orientação, consulte a documentação da Dify.