使用 Milvus 的 NLWeb

微軟的 NLWeb是一個建議的框架,可使用Schema.org、RSS 等格式以及新興的 MCP 協定,為網站提供自然語言介面。

Milvus作為 NLWeb 內的向量資料庫後端,可支援嵌入儲存和有效的向量相似性搜尋,為自然語言處理應用程式提供強大的上下文檢索功能。

本文件主要以官方快速入門文件為基礎。如果您發現任何過時或不一致的內容,請優先使用官方文件,並隨時向我們提出問題。

使用方法

NLWeb 可以配置為使用 Milvus 作為檢索引擎。以下是如何設定和使用NLWeb與Milvus的指南。

安裝

克隆 repo 並設定您的環境:

git clone https://github.com/microsoft/NLWeb
cd NLWeb
python -m venv .venv
source .venv/bin/activate  # or `.venv\Scripts\activate` on Windows
cd code
pip install -r requirements.txt
pip install pymilvus  # Add Milvus Python client

設定 Milvus

要使用Milvus,請更新您的配置。

更新配置文件在code/config

開啟config_retrieval.yaml 檔案,並加入 Milvus 配置:

preferred_endpoint: milvus_local

endpoints:
  milvus_local:
    database_path: "../data/milvus.db"
    # Set the collection name to use
    index_name: nlweb_collection
    # Specify the database type
    db_type: milvus

載入資料

配置完成後,使用 RSS feed 載入您的內容。

code 目錄:

python -m tools.db_load https://feeds.libsyn.com/121695/rss Behind-the-Tech

這將會把內容攝取到您的 Milvus 套件中,同時儲存文字資料和向量嵌入。

執行伺服器

要啟動 NLWeb,從code 目錄,執行:

python app-file.py

現在您可以使用 http://localhost:8000/ 的 Web UI 或直接透過與 MCP 相容的 REST API,透過自然語言查詢您的內容。

進一步閱讀

免費嘗試托管的 Milvus

Zilliz Cloud 無縫接入,由 Milvus 提供動力,速度提升 10 倍。

開始使用
反饋

這個頁面有幫助嗎?