在AnythingLLM中使用Milvus

AnythingLLM是一個功能強大、注重隱私、多合一的 AI 桌面應用程式，支援各種 LLM、文件類型和向量資料庫。它可以讓您建立一個私人的、類似 ChatGPT 的助理，可以在本機執行或遠端託管，讓您可以與您提供的任何文件進行智慧型聊天。

本指南將教您如何在AnythingLLM中配置Milvus作為向量資料庫，使您能夠嵌入、儲存和搜索您的文件，進行智能檢索和聊天。

本教學是基於官方 AnythingLLM 文件和實際使用步驟。如果UI或步驟有變更，請參考最新的官方文檔，並隨時提出改進建議。

---

1.先決條件

• 本機已安裝Milvus或有Zilliz Cloud 帳號
• 已安裝AnythingLLM 桌面
• 準備好上傳和嵌入的文件或資料來源（PDF、Word、CSV、網頁等）

---

2.設定 Milvus 為向量資料庫

1. 打開AnythingLLM，點擊左下角的設置圖標
   打開設置

2. 在左側菜單中，選擇AI Providers >Vector Database
   選擇向量資料庫

3. 在向量資料庫提供者下拉選單中，選擇Milvus(或 Zilliz Cloud)
   選擇 Milvus

4. 填入您的 Milvus 連線詳細資料（適用於本機 Milvus）。以下是一個範例：

   • Milvus DB 地址： http://localhost:19530
   • Milvus 用戶名： root
   • Milvus 密碼：Milvus Milvus 連線

   如果使用 Zilliz Cloud，請輸入您的 Cluster Endpoint 和 API Token：

   Zilliz Cloud 連線

5. 按一下儲存變更以套用您的設定。

---

3.建立工作區並上傳文件

1. 輸入您的工作區，然後按一下上傳圖示以開啟文件上傳對話框
   開啟上傳對話框

2. 您可以上傳各種資料來源：

   • 本機檔案：PDF、Word、CSV、TXT、音訊檔案等。
   • 網頁：貼上 URL 並直接取得網站內容。

   上傳文件

3. 上傳或取得內容後，按一下Move to Workspace可將文件或資料移動到目前的工作區中
   移動到工作區

4. 選擇文件或資料，點擊保存和嵌入。AnythingLLM 將自動分塊、嵌入並儲存您的內容到 Milvus 中。
   儲存和嵌入

---

4.聊天並從 Milvus 擷取答案

1. 回到工作區聊天介面並提出問題。AnythingLLM 將搜索您的 Milvus 向量資料庫中的相關內容，並使用 LLM 產生答案。
   與文件聊天

---