在 AnythingLLM 中使用 Milvus

AnythingLLM是一款功能强大、注重隐私的一体化人工智能桌面应用程序,支持各种 LLMs、文档类型和向量数据库。它能让您建立一个类似于 ChatGPT 的私人助理,可以在本地运行,也可以远程托管,让您可以与您提供的任何文档进行智能聊天。

本指南将指导您在 AnythingLLM 中配置 Milvus 作为向量数据库,使您能够嵌入、存储和搜索您的文档,进行智能检索和聊天。

本教程基于官方 AnythingLLM 文档和实际使用步骤。如果用户界面或步骤有变化,请参考最新的官方文档,并随时提出改进建议。


1.前提条件


2.将 Milvus 配置为向量数据库

  1. 打开 AnythingLLM,点击左下角的设置图标
    Open Settings 打开设置
  1. 在左侧菜单中选择AI Providers >Vector Database
    Select Vector Database 选择向量数据库

  2. 在向量数据库提供者下拉菜单中,选择Milvus(或 Zilliz Cloud)
    Choose Milvus 选择 Milvus

  3. 填写 Milvus 连接详情(本地 Milvus)。下面是一个例子:

    • Milvus DB 地址http://localhost:19530
    • Milvus 用户名: root
    • Milvus 密码: Milvus Milvus Connection Milvus 连接

    如果使用 Zilliz Cloud,请输入您的集群端点和 API 令牌:

    Zilliz Cloud Connection Zilliz Cloud 连接

  4. 单击保存更改应用您的设置。


3.创建工作区并上传文档

  1. 输入工作区并单击上传图标打开文档上传对话框
    Open Upload Dialog 打开上传对话框

  2. 您可以上传多种数据源:

    • 本地文件:PDF、Word、CSV、TXT、音频文件等。
    • 网页:粘贴 URL 并直接获取网站内容。

    Upload Documents 上传文件

  3. 上传或获取后,单击 "移动到工作区"将文档或数据移动到当前工作区
    Move to Workspace 移动到工作区

  4. 选择文档或数据,点击 "保存并嵌入"。AnythingLLM 会自动将您的内容分块、嵌入并存储到 Milvus 中。
    Save and Embed 保存并嵌入


4.聊天并从 Milvus 获取答案

  1. 返回工作区聊天界面并提问。AnythingLLM 将搜索您的 Milvus 向量数据库中的相关内容,并使用 LLM 生成答案
    Chat with Docs 与文档聊天

想要更快、更简单、更好用的 Milvus SaaS服务 ?

Zilliz Cloud是基于Milvus的全托管向量数据库,拥有更高性能,更易扩展,以及卓越性价比

免费试用 Zilliz Cloud
反馈

此页对您是否有帮助?