AnythingLLM에서 Milvus 사용
AnythingLLM은 다양한 LLM, 문서 유형 및 벡터 데이터베이스를 지원하는 강력하고 개인 정보 보호에 중점을 둔 올인원 AI 데스크톱 애플리케이션입니다. 로컬에서 실행하거나 원격으로 호스팅할 수 있는 ChatGPT와 유사한 비공개 어시스턴트를 구축하여 사용자가 제공하는 모든 문서와 지능적으로 채팅할 수 있습니다.
이 가이드에서는 지능형 검색 및 채팅을 위해 문서를 임베드, 저장 및 검색할 수 있도록 AnythingLLM에서 Milvus를 벡터 데이터베이스로 구성하는 방법을 안내합니다.
이 튜토리얼은 공식 AnythingLLM 문서와 실제 사용 단계를 기반으로 합니다. UI나 단계가 변경된 경우 최신 공식 문서를 참조하고 개선 사항을 자유롭게 제안해 주세요.
1. 전제 조건
- 로컬에 설치된밀버스 또는 질리즈 클라우드 계정
- 애니띵엘엠 데스크톱 설치
- 업로드 및 임베딩이 준비된 문서 또는 데이터 소스(PDF, 워드, CSV, 웹페이지 등)
2. 밀버스를 벡터 데이터베이스로 구성하기
- AnythingLLM을 열고 왼쪽 하단 모서리에 있는 설정 아이콘을 클릭합니다.
설정 열기
왼쪽 메뉴에서
AI Providers>Vector Database
벡터 데이터베이스를 선택합니다 .벡터 데이터베이스 제공업체 드롭다운에서 Milvus (또는 Zilliz Cloud)를 선택합니다.
Milvus를 선택합니다 .Milvus 연결 세부 정보를 입력합니다(로컬 Milvus의 경우). 다음은 예시입니다:
- Milvus DB 주소:
http://localhost:19530 - Milvus 사용자 이름:
root - Milvus 비밀번호:
Milvus
밀버스 연결
질리즈 클라우드를 사용하는 경우, 클러스터 엔드포인트와 API 토큰을 대신 입력합니다:
질리즈 클라우드 연결 - Milvus DB 주소:
변경 사항 저장을 클릭하여 설정을 적용합니다.
3. 워크스페이스 생성 및 문서 업로드하기
워크스페이스를 입력하고 업로드 아이콘을 클릭하면 문서 업로드 대화 상자가 열립니다.
업로드 대화 상자 열기 다양한 데이터 소스를 업로드할 수 있습니다:
- 로컬 파일 PDF, Word, CSV, TXT, 오디오 파일 등
- 웹 페이지: URL을 붙여넣고 웹사이트 콘텐츠를 직접 가져옵니다.
문서 업로드 업로드 또는 가져오기 후 워크스페이스로 이동 을 클릭하여 문서 또는 데이터를 현재 워크스페이스로 옮깁니다.
워크스페이스로 이동 문서 또는 데이터를 선택하고 저장 및 임베드를 클릭합니다. AnythingLLM이 자동으로 콘텐츠를 청크, 임베드 및 Milvus에 저장합니다.
저장 및 임베드
4. Milvus에서 채팅 및 답변 검색하기
- 워크스페이스 채팅 인터페이스로 돌아가서 질문을 하세요. AnythingLLM이 Milvus 벡터 데이터베이스에서 관련 콘텐츠를 검색하고 LLM을 사용하여 답변을 생성합니다.
문서와 채팅