SambaNovaでMilvusを使う
SambaNovaは、高度なAIとディープラーニング機能の展開を加速する革新的なAIテクノロジープラットフォームです。SambaNovaは企業向けに設計されており、生成的なAIを活用してパフォーマンスと効率を向上させることができます。SambaNova SuiteやDataScaleのような最先端のソリューションを提供することで、このプラットフォームは、企業がデータから価値ある洞察を引き出すことを可能にし、業務改善を促進し、AIの展望における新たな機会を育成します。
SambaNova AIスターターキットは、開発者や企業がSambaNovaでAI駆動型アプリケーションを展開するのを支援するために設計されたオープンソースリソースのコレクションです。これらのキットは、様々なAIユースケースの実装を容易にする実践的な例やガイドを提供し、ユーザーがSambaNovaの先進技術を活用することを容易にします。
このチュートリアルではSambaNova AIスターターキットのMilvusインテグレーションを活用し、RAG(Retrieval-Augmented Generation)に似たエンタープライズ知識検索システムを構築し、企業のプライベートドキュメントに基づいた検索と回答を行います。
このチュートリアルは主にSambaNova AI Starter Kitsの公式ガイドを参照しています。もし、このチュートリアルに古い部分があるようでしたら、オフィシャルガイドに従うことを優先し、私たちに問題を作成してください。
前提条件
Python >= 3.10, < 3.12の使用を推奨します。
SambaNova Cloudにアクセスし、SambaNova APIキーを取得する。
リポジトリをクローンする
$ git clone https://github.com/sambanova/ai-starter-kit.git
$ d ai-starter-kit/enterprise_knowledge_retriever
ベクターストアのタイプを変更する
create_vector_store() のdb_type='milvus' とsrc/document_retrieval.py のload_vdb() 関数を設定して、ベクターストアを変更する。
...
vectorstore = self.vectordb.create_vector_store(
..., db_type='milvus'
)
...
vectorstore = self.vectordb.load_vdb(..., db_type='milvus', ...)
依存関係のインストール
以下のコマンドを実行し、必要な依存関係をインストールする：
python3 -m venv enterprise_knowledge_env
source enterprise_knowledge_env/bin/activate
pip install -r requirements.txt
アプリケーションの起動
以下のコマンドでアプリケーションを起動します：
$ streamlit run streamlit/app.py --browser.gatherUsageStats false
その後、ブラウザにユーザーインターフェースが表示される：http://localhost:8501/
UI に SambaNova API キーを設定した後、UI を操作したり、ドキュメントに関する質問をすることができます。
詳しくはSambaNova AI Starter Kitsのエンタープライズ知識検索公式ドキュメントをご参照ください。
