Verwendung von NLWeb mit Milvus

NLWeb von Microsoft ist ein vorgeschlagenes Rahmenwerk, das natürlichsprachliche Schnittstellen für Websites ermöglicht, die Schema.org, Formate wie RSS und das neue MCP-Protokoll verwenden.

Milvus wird als Vektordatenbank-Backend innerhalb von NLWeb unterstützt, um die Speicherung und die effiziente Suche nach Vektorähnlichkeiten einzubetten, was eine leistungsstarke Kontextabfrage für Anwendungen zur Verarbeitung natürlicher Sprache ermöglicht.

Diese Dokumentation basiert hauptsächlich auf der offiziellen Schnellstart-Dokumentation. Sollten Sie veraltete oder inkonsistente Inhalte finden, bevorzugen Sie bitte die offizielle Dokumentation und zögern Sie nicht, uns ein Problem zu melden.

Verwendung

NLWeb kann so konfiguriert werden, dass es Milvus als Retrieval Engine verwendet. Im Folgenden finden Sie eine Anleitung, wie Sie NLWeb mit Milvus einrichten und verwenden.

Einrichtung

Klonen Sie das Repo und richten Sie Ihre Umgebung ein:

git clone https://github.com/microsoft/NLWeb
cd NLWeb
python -m venv .venv
source .venv/bin/activate  # or `.venv\Scripts\activate` on Windows
cd code
pip install -r requirements.txt
pip install pymilvus  # Add Milvus Python client

Milvus konfigurieren

Um Milvus zu verwenden, aktualisieren Sie Ihre Konfiguration.

Aktualisieren Sie die Konfigurationsdateien in code/config

Öffnen Sie die Datei config_retrieval.yaml und fügen Sie die Milvus-Konfiguration hinzu:

preferred_endpoint: milvus_local

endpoints:
  milvus_local:
    database_path: "../data/milvus.db"
    # Set the collection name to use
    index_name: nlweb_collection
    # Specify the database type
    db_type: milvus

Daten laden

Nach der Konfiguration laden Sie Ihre Inhalte über RSS-Feeds.

Aus dem Verzeichnis code:

python -m tools.db_load https://feeds.libsyn.com/121695/rss Behind-the-Tech

Dadurch wird der Inhalt in Ihre Milvus-Sammlung aufgenommen, wobei sowohl die Textdaten als auch die Vektoreinbettungen gespeichert werden.

Starten des Servers

Um NLWeb zu starten, starten Sie im Verzeichnis code den Befehl run:

python app-file.py

Sie können nun Ihre Inhalte über natürliche Sprache entweder über die Web-UI auf http://localhost:8000/ oder direkt über die MCP-kompatible REST-API abfragen.

Weitere Lektüre

• Milvus-Dokumentation
• NLWeb-Quelle
• Leben einer Chat-Abfrage
• Ändern des Verhaltens durch Ändern der Prompts
• Ändern des Kontrollflusses
• Ändern der Benutzeroberfläche