Utilizzare NLWeb con Milvus

NLWeb di Microsoft è un framework proposto che consente di creare interfacce in linguaggio naturale per i siti web, utilizzando Schema.org, formati come RSS e l'emergente protocollo MCP.

Milvus è supportato come backend di database vettoriale all'interno di NLWeb per incorporare la memorizzazione e l'efficiente ricerca di similarità vettoriale, consentendo un potente recupero del contesto per le applicazioni di elaborazione del linguaggio naturale.

Questa documentazione si basa principalmente sulla documentazione ufficiale di avvio rapido. Se trovate contenuti obsoleti o incoerenti, date priorità alla documentazione ufficiale e non esitate a segnalarci un problema.

Utilizzo

NLWeb può essere configurato per utilizzare Milvus come motore di recupero. Di seguito è riportata una guida su come configurare e utilizzare NLWeb con Milvus.

Installazione

Clonare il repo e configurare l'ambiente:

git clone https://github.com/microsoft/NLWeb
cd NLWeb
python -m venv .venv
source .venv/bin/activate  # or `.venv\Scripts\activate` on Windows
cd code
pip install -r requirements.txt
pip install pymilvus  # Add Milvus Python client

Configurazione di Milvus

Per utilizzare Milvus, aggiornare la configurazione.

Aggiornare i file di configurazione in code/config

Aprire il file config_retrieval.yaml e aggiungere la configurazione di Milvus:

preferred_endpoint: milvus_local

endpoints:
  milvus_local:
    database_path: "../data/milvus.db"
    # Set the collection name to use
    index_name: nlweb_collection
    # Specify the database type
    db_type: milvus

Caricare i dati

Una volta configurato, caricare i contenuti utilizzando i feed RSS.

Dalla cartella code:

python -m tools.db_load https://feeds.libsyn.com/121695/rss Behind-the-Tech

In questo modo il contenuto verrà inserito nella raccolta Milvus, memorizzando sia i dati testuali che le incorporazioni vettoriali.

Esecuzione del server

Per avviare NLWeb, dalla directory code, eseguire:

python app-file.py

Ora è possibile interrogare i contenuti in linguaggio naturale utilizzando l'interfaccia web di http://localhost:8000/ o direttamente l'API REST compatibile con MCP.

Ulteriori letture

• Documentazione Milvus
• Fonte NLWeb
• Vita di una query di chat
• Modificare il comportamento cambiando le richieste
• Modificare il flusso di controllo
• Modificare l'interfaccia utente