Utilizzare Milvus in AnythingLLM
AnythingLLM è una potente applicazione desktop AI all-in-one, incentrata sulla privacy, che supporta diversi LLM, tipi di documenti e database vettoriali. Consente di creare un assistente privato, simile a ChatGPT, che può essere eseguito localmente o ospitato in remoto, permettendo di chattare in modo intelligente con i documenti forniti.
Questa guida vi guiderà nella configurazione di Milvus come database vettoriale in AnythingLLM, consentendovi di incorporare, archiviare e cercare i vostri documenti per un recupero intelligente e una chat.
Questa guida si basa sulla documentazione ufficiale di AnythingLLM e sulle fasi di utilizzo reali. Se l'interfaccia utente o i passaggi cambiano, fate riferimento alla documentazione ufficiale più recente e sentitevi liberi di suggerire miglioramenti.
1. Prerequisiti
- Milvus installato localmente o un account Zilliz Cloud
- TuttoLLM Desktop installato
- Documenti o fonti di dati pronti per il caricamento e l'incorporazione (PDF, Word, CSV, pagine web, ecc.)
2. Configurare Milvus come database vettoriale
- Aprire AnythingLLM e fare clic sull'icona delle impostazioni nell'angolo in basso a sinistra.
Aprire le impostazioni
Nel menu di sinistra, selezionare
AI Providers>Vector Database
Selezionare Database vettoriale Nel menu a tendina Provider del database vettoriale, selezionare Milvus (o Zilliz Cloud).
Scegliere Milvus Inserire i dati di connessione a Milvus (per Milvus locale). Ecco un esempio:
- Indirizzo DB Milvus:
http://localhost:19530 - Milvus Nome utente:
root - Milvus Password:
Milvus
Connessione Milvus
Se si utilizza Zilliz Cloud, inserire invece il Cluster Endpoint e il Token API:
Connessione Zilliz Cloud - Indirizzo DB Milvus:
Fare clic su Salva modifiche per applicare le impostazioni.
3. Creare un'area di lavoro e caricare i documenti
Inserite il vostro spazio di lavoro e fate clic sull'icona di caricamento per aprire la finestra di dialogo di caricamento dei documenti.
Aprire la finestra di dialogo di caricamento È possibile caricare un'ampia gamma di fonti di dati:
- File locali: PDF, Word, CSV, TXT, file audio, ecc.
- Pagine web: Incolla un URL e recupera direttamente il contenuto del sito web.
Caricare i documenti Dopo il caricamento o l'acquisizione, fare clic su Sposta nell'area di lavoro per spostare il documento o i dati nell'area di lavoro corrente.
Sposta nell'area di lavoro Selezionare il documento o i dati e fare clic su Salva e incorpora. AnythingLLM eseguirà automaticamente il chunk, l'embedding e l'archiviazione dei contenuti in Milvus.
Salva e incorpora
4. Chattare e recuperare le risposte da Milvus
- Tornare all'interfaccia di chat dell'area di lavoro e porre domande. AnythingLLM cercherà i contenuti pertinenti nel database dei vettori di Milvus e utilizzerà LLM per generare le risposte.
Chat con i documenti