삼바노바와 함께 Milvus 사용

삼바노바는 고급 AI 및 딥러닝 기능의 배포를 가속화하는 혁신적인 AI 기술 플랫폼입니다. 기업용으로 설계된 이 플랫폼은 조직이 제너레이티브 AI를 활용하여 성능과 효율성을 향상시킬 수 있도록 지원합니다. 이 플랫폼은 삼바노바 스위트와 데이터스케일과 같은 최첨단 솔루션을 제공함으로써 기업이 데이터에서 가치 있는 인사이트를 추출하여 운영 개선을 주도하고 AI 환경에서 새로운 기회를 창출할 수 있도록 지원합니다.

삼바노바AI 스타터 키트는 개발자와 기업이 삼바노바를 통해 AI 기반 애플리케이션을 배포하는 데 도움이 되도록 설계된 오픈 소스 리소스 모음입니다. 이 키트는 다양한 AI 사용 사례를 쉽게 구현할 수 있는 실용적인 예제와 가이드를 제공하여 사용자가 삼바노바의 고급 기술을 보다 쉽게 활용할 수 있도록 지원합니다.

이 튜토리얼에서는 삼바노바 AI 스타터 키트의 Milvus 통합 기능을 활용하여 기업 비공개 문서를 기반으로 검색 및 답변을 제공하는 RAG(검색 증강 세대)와 유사한 엔터프라이즈 지식 검색 시스템을 구축합니다.

전제 조건

Python >= 3.10 및 3.12 미만 버전을 사용하는 것이 좋습니다.

삼바노바 클라우드에 방문하여 삼바노바 API 키를 받습니다.

리포지토리 복제

$ git clone https://github.com/sambanova/ai-starter-kit.git
$ d ai-starter-kit/enterprise_knowledge_retriever

벡터 저장소 유형 변경

create_vector_store() 에서 db_type='milvus' 을, load_vdb() 에서 src/document_retrieval.py 을 설정하여 벡터 저장소를 변경합니다.

...
vectorstore = self.vectordb.create_vector_store(
    ..., db_type='milvus'
)
...
vectorstore = self.vectordb.load_vdb(..., db_type='milvus', ...)

종속성 설치

다음 명령을 실행하여 필요한 종속성을 설치합니다:

python3 -m venv enterprise_knowledge_env
source enterprise_knowledge_env/bin/activate
pip install -r requirements.txt

애플리케이션 시작

다음 명령을 사용하여 애플리케이션을 시작합니다:

$ streamlit run streamlit/app.py --browser.gatherUsageStats false 

그 후 브라우저에 사용자 인터페이스가 표시됩니다:http://localhost:8501/

UI에서 삼바노바 API 키를 설정한 후, UI를 사용해보고 문서에 대해 질문할 수 있습니다.

자세한 내용은 삼바노바 AI 스타터 키트의 기업 지식 검색 공식 문서를 참조하세요.