버킷 간에 인스턴스 간 마이그레이션
이 주제에서는 동일한 개체 스토리지 내에서 각 인스턴스가 서로 다른 버킷을 사용하여 한 Milvus 인스턴스에서 컬렉션을 백업하고 다른 인스턴스로 복원하는 프로세스에 대해 자세히 설명합니다.
개요
아래 다이어그램은 동일한 오브젝트 스토리지 내에서 서로 다른 버킷을 사용하는 백업 및 복원 프로세스를 보여줍니다.
교차 버킷 백업 및 복원.png
두 개의 Milvus 인스턴스( milvus_A
및 milvus_B
)가 있고, 둘 다 기본 MinIO 스토리지 엔진을 오브젝트 스토리지에 사용한다고 가정해 보겠습니다. 이 인스턴스는 동일한 오브젝트 스토리지 내에서 서로 다른 버킷 bucket_A와 bucket_B
를 사용합니다. 이 예제에서는 다음 작업을 완료하는 것이 목표입니다:
bucket_A
에서coll
컬렉션에 대한 백업(my_backup
)을 만들고bucket_B
에 백업을 저장합니다.bucket_B
에서 백업에서 복원하고 복원된 컬렉션의 이름을coll_bak
으로 지정합니다.
전제 조건**
밀버스 백업 도구가 설치되어 있는지 확인합니다.
Milvus 개체 스토리지 설정 구성에 익숙해집니다. 자세한 내용은 개체 스토리지를 참조하세요.
milvus_A에서 컬렉션 백업하기
1단계: 구성 준비
milvus-backup 프로젝트의 디렉토리로 이동하여 configs라는 이름의 디렉토리를 만듭니다:
mkdir configs
cd configs
백업 구성 파일을 다운로드합니다 backup.yaml
:
wget https://raw.githubusercontent.com/zilliztech/milvus-backup/main/configs/backup.yaml
파일 구조는 다음과 같습니다:
├── configs
│ └── backup.yaml
├── milvus-backup
└── README.md
2단계: 구성 파일 편집
milvus_A
에 대한 적절한 구성을 설정하도록 backup.yaml 파일을 수정합니다:
연결 구성
# milvus proxy address, compatible to milvus.yaml milvus: address: milvus_A port: 19530 authorizationEnabled: false # tls mode values [0, 1, 2] # 0 is close, 1 is one-way authentication, 2 is two-way authentication. tlsMode: 0 user: "root" password: "Milvus"
milvus.address
:milvus_A
서버의 IP 주소 또는 호스트 이름.milvus.port
: Milvus 서버가 수신 대기 중인 TCP 포트(기본값 19530).
스토리지 구성(MinIO/S3 설정)
# Related configuration of minio, which is responsible for data persistence for Milvus. minio: # cloudProvider: "minio" # deprecated use storageType instead storageType: "minio" # support storage type: local, minio, s3, aws, gcp, ali(aliyun), azure, tc(tencent) address: localhost # Address of MinIO/S3 port: 9000 # Port of MinIO/S3 accessKeyID: minioadmin # accessKeyID of MinIO/S3 secretAccessKey: minioadmin # MinIO/S3 encryption string useSSL: false # Access to MinIO/S3 with SSL useIAM: false iamEndpoint: "" bucketName: "bucket_A" # Milvus Bucket name in MinIO/S3, make it the same as your milvus instance rootPath: "files" # Milvus storage root path in MinIO/S3, make it the same as your milvus instance # only for azure backupAccessKeyID: minioadmin # accessKeyID of MinIO/S3 backupSecretAccessKey: minioadmin # MinIO/S3 encryption string backupBucketName: "bucket_B" # Bucket name to store backup data. Backup data will store to backupBucketName/backupRootPath backupRootPath: "backup" # Rootpath to store backup data. Backup data will store to backupBucketName/backupRootPath
minio.bucketName
:milvus_A
에서 데이터 저장에 사용되는 버킷의 이름. 이 예에서는bucket_A
으로 설정합니다.minio.rootPath
:milvus_A
의 데이터가 저장되는 버킷 내 루트 경로. 이 예에서는files
로 설정합니다.minio.backupBucketName
:milvus_B
에서 백업 저장에 사용되는 버킷의 이름. 이 예제에서milvus_A
와milvus_B
은 서로 다른 버킷을 사용합니다. 따라서bucket_B
.minio.backupRootPath
:milvus_B
에 백업 파일을 저장하기 위해 지정된 버킷 내 루트 경로 이 예에서는backup
으로 설정합니다.
3단계: 백업 만들기
backup.yaml이 저장되면 my_backup
이라는 이름의 백업을 만듭니다:
./milvus-backup create -c coll -n my_backup
이 명령은 컬렉션 coll의 개체 스토리지에 bucket_B/backup/my_backup
백업을 만듭니다.
백업을 milvus_B로 복원하기
1단계: 복원 설정 구성
2단계를 반복하여 milvus_B
로 복원하기 위한 구성을 수정하고 minio.bucketName
이 bucket_B
로 설정되어 있는지 확인합니다.
다음은 샘플 구성입니다:
...
# milvus proxy address, compatible to milvus.yaml
milvus:
address: milvus_B
port: 19530
authorizationEnabled: false
# tls mode values [0, 1, 2]
# 0 is close, 1 is one-way authentication, 2 is two-way authentication.
tlsMode: 0
user: "root"
password: "Milvus"
# Related configuration of minio, which is responsible for data persistence for Milvus.
minio:
# cloudProvider: "minio" # deprecated use storageType instead
storageType: "minio" # support storage type: local, minio, s3, aws, gcp, ali(aliyun), azure, tc(tencent)
address: localhost # Address of MinIO/S3
port: 9000 # Port of MinIO/S3
accessKeyID: minioadmin # accessKeyID of MinIO/S3
secretAccessKey: minioadmin # MinIO/S3 encryption string
useSSL: false # Access to MinIO/S3 with SSL
useIAM: false
iamEndpoint: ""
bucketName: "bucket_B" # Milvus Bucket name in MinIO/S3, make it the same as your milvus instance
rootPath: "files" # Milvus storage root path in MinIO/S3, make it the same as your milvus instance
# only for azure
backupAccessKeyID: minioadmin # accessKeyID of MinIO/S3
backupSecretAccessKey: minioadmin # MinIO/S3 encryption string
backupBucketName: "bucket_B" # Bucket name to store backup data. Backup data will store to backupBucketName/backupRootPath
backupRootPath: "backup" # Rootpath to store backup data. Backup data will store to backupBucketName/backupRootPath
...
2단계: 백업 복원
백업을 milvus_B
으로 복원합니다:
./milvus-backup restore -c coll -n my_backup -s _bak
이 명령은 milvus_B
에 coll_bak
라는 새 컬렉션으로 백업을 복원하고 bucket_B/files/insert_log/[ID of new collection]
에 데이터를 저장합니다.