Использование Milvus в AnythingLLM
AnythingLLM - это мощное, ориентированное на конфиденциальность, универсальное настольное приложение с искусственным интеллектом, поддерживающее различные LLM, типы документов и векторные базы данных. Оно позволяет создать частного помощника, похожего на ChatGPT, который может работать локально или удаленно, позволяя вам интеллектуально общаться с любыми документами, которые вы предоставляете.
Это руководство поможет вам настроить Milvus как векторную базу данных в AnythingLLM, что позволит вам встраивать, хранить и искать ваши документы для интеллектуального поиска и общения в чате.
Это руководство основано на официальной документации AnythingLLM и реальных шагах по использованию. Если пользовательский интерфейс или шаги изменились, пожалуйста, обратитесь к последней версии официальной документации и не стесняйтесь предлагать улучшения.
1. Необходимые условия
- Установленный локальноMilvus или облачный аккаунт Zilliz
- УстановленAnythingLLM Desktop
- Документы или источники данных, готовые для загрузки и встраивания (PDF, Word, CSV, веб-страницы и т. д.)
2. Настройте Milvus в качестве базы данных векторов
- Откройте AnythingLLM и нажмите на значок настроек в левом нижнем углу
Открыть настройки
В левом меню выберите
AI Providers>Vector Database.
Выберите Векторная база данных В раскрывающемся списке Поставщик векторной базы данных выберите Milvus (или Zilliz Cloud)
Выберите Milvus Введите данные подключения к Milvus (для локального Milvus). Вот пример:
- Адрес БД Milvus:
http://localhost:19530 - Milvus Имя пользователя:
root - Milvus Пароль:
Milvus
Milvus Connection
Если вы используете Zilliz Cloud, введите конечную точку кластера и API-токен:
Zilliz Cloud Connection - Адрес БД Milvus:
Нажмите кнопку Сохранить изменения, чтобы применить настройки.
3. Создание рабочего пространства и загрузка документов
Введите рабочее пространство и нажмите на значок загрузки, чтобы открыть диалог загрузки документов
Открыть диалог загрузки документовВы можете загружать самые разные источники данных:
- Локальные файлы: PDF, Word, CSV, TXT, аудиофайлы и т. д.
- Веб-страницы: Вставьте URL-адрес и получайте содержимое веб-сайта напрямую.
Загрузка документов После загрузки или извлечения нажмите кнопку Переместить в рабочую область, чтобы переместить документ или данные в текущую рабочую область.
Переместить в рабочую область Выберите документ или данные и нажмите Сохранить и вставить. AnythingLLM автоматически создаст чанк, встроит и сохранит ваш контент в Milvus.
Сохранить и вставить
4. Общение в чате и получение ответов из Milvus
- Вернитесь в интерфейс чата рабочей области и задайте вопросы. AnythingLLM выполнит поиск соответствующего контента в векторной базе данных Milvus и использует LLM для создания ответов.
Чат с документами