使用 Milvus 的 NLWeb
微軟的 NLWeb是一個建議的框架,可使用Schema.org、RSS 等格式以及新興的 MCP 協定,為網站提供自然語言介面。
Milvus作為 NLWeb 內的向量資料庫後端,可支援嵌入儲存和有效的向量相似性搜尋,為自然語言處理應用程式提供強大的上下文檢索功能。
本文件主要以官方快速入門文件為基礎。如果您發現任何過時或不一致的內容,請優先使用官方文件,並隨時向我們提出問題。
使用方法
NLWeb 可以配置為使用 Milvus 作為檢索引擎。以下是如何設定和使用NLWeb與Milvus的指南。
安裝
克隆 repo 並設定您的環境:
git clone https://github.com/microsoft/NLWeb
cd NLWeb
python -m venv .venv
source .venv/bin/activate # or `.venv\Scripts\activate` on Windows
cd code
pip install -r requirements.txt
pip install pymilvus # Add Milvus Python client
設定 Milvus
要使用Milvus,請更新您的配置。
更新配置文件在code/config
開啟config_retrieval.yaml 檔案,並加入 Milvus 配置:
preferred_endpoint: milvus_local
endpoints:
milvus_local:
database_path: "../data/milvus.db"
# Set the collection name to use
index_name: nlweb_collection
# Specify the database type
db_type: milvus
載入資料
配置完成後,使用 RSS feed 載入您的內容。
從code 目錄:
python -m tools.db_load https://feeds.libsyn.com/121695/rss Behind-the-Tech
這將會把內容攝取到您的 Milvus 套件中,同時儲存文字資料和向量嵌入。
執行伺服器
要啟動 NLWeb,從code 目錄,執行:
python app-file.py
現在您可以使用 http://localhost:8000/ 的 Web UI 或直接透過與 MCP 相容的 REST API,透過自然語言查詢您的內容。