AnythingLLMでMilvusを使う
AnythingLLMは、様々なLLM、ドキュメントタイプ、ベクターデータベースをサポートする、強力でプライバシー重視のオールインワンAIデスクトップアプリケーションです。ローカルで実行することも、リモートでホストすることもできるプライベートなChatGPTのようなアシスタントを構築することができ、あなたが提供するすべてのドキュメントとインテリジェントにチャットすることができます。
このガイドでは、MilvusをAnythingLLMのベクターデータベースとして設定し、ドキュメントの埋め込み、保存、検索を行い、インテリジェントな検索とチャットを可能にします。
このチュートリアルは、AnythingLLMの公式ドキュメントと実際の使用手順に基づいています。UIや手順が変更された場合は、最新の公式ドキュメントを参照してください。
1.前提条件
- ローカルにインストールされたMilvusまたはZilliz Cloudアカウント
- AnythingLLM Desktopのインストール
- アップロードおよび埋め込みが可能なドキュメントまたはデータソース（PDF、Word、CSV、Webページなど）
2.Milvusをベクターデータベースとして設定します。
- AnythingLLMを開き、左下の設定アイコンをクリックします。
設定を開く
左のメニューで、
AI Providers>Vector Databaseを選択します。
ベクターデータベースを選択 Vector Database Providerドロップダウンで、Milvus（またはZilliz Cloud）を選択します。
Milvusを選択します。 Milvus接続の詳細を入力します（ローカルMilvusの場合）。以下はその例です：
- Milvus DBアドレス：
http://localhost:19530 - Milvusユーザー名：
root - Milvusパスワード：
Milvus
Milvus接続
Zilliz Cloudをご利用の場合は、代わりにCluster EndpointとAPI Tokenを入力してください：
Zillizクラウド接続 - Milvus DBアドレス：
Save changes]をクリックして設定を適用します。
3.ワークスペースの作成とドキュメントのアップロード
ワークスペースを入力し、アップロードアイコンをクリックしてドキュメントのアップロードダイアログを開きます。
アップロードダイアログを開く さまざまなデータ・ソースをアップロードできます：
- ローカルファイル：ローカルファイル：PDF、Word、CSV、TXT、オーディオファイルなど。
- ウェブページ：URLを貼り付け、ウェブサイトのコンテンツを直接取得します。
ドキュメントのアップロード アップロードまたは取得後、[ワークスペースに移動]をクリックして、ドキュメントまたはデータを現在のワークスペースに移動します。
ワークスペースに移動 ドキュメントまたはデータを選択し、[保存して埋め込む] をクリックします。AnythingLLMが自動的にコンテンツをチャンクし、埋め込み、Milvusに保存します。
保存して埋め込む
4.チャットとMilvusからの回答の取得
- ワークスペースのチャットインターフェイスに戻り、質問をします。AnythingLLMはMilvusベクターデータベースから関連するコンテンツを検索し、LLMを使って回答を生成します。
ドキュメントとチャット