Usar Milvus no AnythingLLM
O AnythingLLM é uma aplicação de desktop de IA poderosa, focada na privacidade e tudo-em-um que suporta vários LLMs, tipos de documentos e bases de dados vectoriais. Permite-lhe criar um assistente privado, semelhante ao ChatGPT, que pode ser executado localmente ou alojado remotamente, permitindo-lhe conversar de forma inteligente com quaisquer documentos que forneça.
Este guia irá guiá-lo através da configuração do Milvus como a base de dados vetorial no AnythingLLM, permitindo-lhe incorporar, armazenar e pesquisar os seus documentos para recuperação inteligente e chat.
Este tutorial é baseado na documentação oficial do AnythingLLM e nos passos de uso real. Se a interface do usuário ou as etapas mudarem, consulte os documentos oficiais mais recentes e sinta-se à vontade para sugerir melhorias.
1. Pré-requisitos
- Milvus instalado localmente ou uma conta Zilliz Cloud
- AnythingLLM Desktop instalado
- Documentos ou fontes de dados prontos para serem carregados e incorporados (PDF, Word, CSV, páginas web, etc.)
2. Configurar o Milvus como a Base de Dados Vetorial
- Abra o AnythingLLM e clique no ícone de configurações no canto inferior esquerdo
Abrir Configurações
No menu esquerdo, selecione
AI Providers>Vector Database
Selecione Base de Dados Vetorial No menu suspenso Provedor de Banco de Dados Vetorial, selecione Milvus (ou Zilliz Cloud)
Selecione Milvus Preencha os seus dados de ligação ao Milvus (para o Milvus local). Aqui está um exemplo:
- Milvus DB Address:
http://localhost:19530 - Milvus Nome de utilizador:
root - Milvus Password:
Milvus
Milvus Connection (Ligação Milvus)
Se estiver a utilizar o Zilliz Cloud, introduza o seu Cluster Endpoint e o Token API:
Ligação Zilliz Cloud - Milvus DB Address:
Clique em Salvar alterações para aplicar suas configurações.
3. Criar um espaço de trabalho e carregar documentos
Introduza o seu espaço de trabalho e clique no ícone de carregamento para abrir a caixa de diálogo de carregamento de documentos
Abrir a caixa de diálogo Upload É possível carregar uma grande variedade de fontes de dados:
- Ficheiros locais: PDF, Word, CSV, TXT, ficheiros de áudio, etc.
- Páginas Web: Colar um URL e ir buscar diretamente o conteúdo do sítio Web.
Carregar documentos Depois de carregar ou obter, clique em Mover para espaço de trabalho para mover o documento ou os dados para o seu espaço de trabalho atual
Mover para o espaço de trabalho Selecione o documento ou dados e clique em Salvar e Incorporar. O AnythingLLM irá automaticamente dividir, incorporar e armazenar seu conteúdo no Milvus
Salvar e Incorporar
4. Bate-papo e Recuperação de Respostas do Milvus
- Retorne à interface de bate-papo do espaço de trabalho e faça perguntas. O AnythingLLM pesquisará seu banco de dados de vetores do Milvus em busca de conteúdo relevante e usará o LLM para gerar respostas
Bate-papo com Documentos