버킷 간에 인스턴스 간 마이그레이션

이 주제에서는 동일한 개체 스토리지 내에서 각 인스턴스가 서로 다른 버킷을 사용하여 한 Milvus 인스턴스에서 컬렉션을 백업하고 다른 인스턴스로 복원하는 프로세스에 대해 자세히 설명합니다.

개요

아래 다이어그램은 동일한 오브젝트 스토리지 내에서 서로 다른 버킷을 사용하는 백업 및 복원 프로세스를 보여줍니다.

교차 버킷 백업 및 복원.png

두 개의 Milvus 인스턴스( milvus_A 및 milvus_B)가 있고, 둘 다 기본 MinIO 스토리지 엔진을 오브젝트 스토리지에 사용한다고 가정해 보겠습니다. 이 인스턴스는 동일한 오브젝트 스토리지 내에서 서로 다른 버킷 bucket_A와 bucket_B 를 사용합니다. 이 예제에서는 다음 작업을 완료하는 것이 목표입니다:

1. bucket_A 에서 coll 컬렉션에 대한 백업(my_backup)을 만들고 bucket_B 에 백업을 저장합니다.

2. bucket_B 에서 백업에서 복원하고 복원된 컬렉션의 이름을 coll_bak 으로 지정합니다.

전제 조건**

• 밀버스 백업 도구가 설치되어 있는지 확인합니다.

• Milvus 개체 스토리지 설정 구성에 익숙해집니다. 자세한 내용은 개체 스토리지를 참조하세요.

milvus_A에서 컬렉션 백업하기

1단계: 구성 준비

milvus-backup 프로젝트의 디렉토리로 이동하여 configs라는 이름의 디렉토리를 만듭니다:

mkdir configs
cd configs

백업 구성 파일을 다운로드합니다 backup.yaml:

wget https://raw.githubusercontent.com/zilliztech/milvus-backup/main/configs/backup.yaml

파일 구조는 다음과 같습니다:

├── configs
│   └── backup.yaml
├── milvus-backup
└── README.md

2단계: 구성 파일 편집

milvus_A 에 대한 적절한 구성을 설정하도록 backup.yaml 파일을 수정합니다:

• 연결 구성

  # milvus proxy address, compatible to milvus.yaml
  milvus:
    address: milvus_A
    port: 19530
    authorizationEnabled: false
    # tls mode values [0, 1, 2]
    # 0 is close, 1 is one-way authentication, 2 is two-way authentication.
    tlsMode: 0
    user: "root"
    password: "Milvus"
  

  • milvus.address: milvus_A 서버의 IP 주소 또는 호스트 이름.

  • milvus.port: Milvus 서버가 수신 대기 중인 TCP 포트(기본값 19530).

• 스토리지 구성(MinIO/S3 설정)

  # Related configuration of minio, which is responsible for data persistence for Milvus.
  minio:
    # cloudProvider: "minio" # deprecated use storageType instead
    storageType: "minio" # support storage type: local, minio, s3, aws, gcp, ali(aliyun), azure, tc(tencent)
    
    address: localhost # Address of MinIO/S3
    port: 9000   # Port of MinIO/S3
    accessKeyID: minioadmin  # accessKeyID of MinIO/S3
    secretAccessKey: minioadmin # MinIO/S3 encryption string
    useSSL: false # Access to MinIO/S3 with SSL
    useIAM: false
    iamEndpoint: ""
    
    bucketName: "bucket_A" # Milvus Bucket name in MinIO/S3, make it the same as your milvus instance
    rootPath: "files" # Milvus storage root path in MinIO/S3, make it the same as your milvus instance
  
    # only for azure
    backupAccessKeyID: minioadmin  # accessKeyID of MinIO/S3
    backupSecretAccessKey: minioadmin # MinIO/S3 encryption string
    
    backupBucketName: "bucket_B" # Bucket name to store backup data. Backup data will store to backupBucketName/backupRootPath
    backupRootPath: "backup" # Rootpath to store backup data. Backup data will store to backupBucketName/backupRootPath
  

• minio.bucketName: milvus_A 에서 데이터 저장에 사용되는 버킷의 이름. 이 예에서는 bucket_A 으로 설정합니다.

• minio.rootPath: milvus_A 의 데이터가 저장되는 버킷 내 루트 경로. 이 예에서는 files 로 설정합니다.

• minio.backupBucketName: milvus_B 에서 백업 저장에 사용되는 버킷의 이름. 이 예제에서 milvus_A 와 milvus_B 은 서로 다른 버킷을 사용합니다. 따라서 bucket_B.

• minio.backupRootPath: milvus_B 에 백업 파일을 저장하기 위해 지정된 버킷 내 루트 경로 이 예에서는 backup 으로 설정합니다.

3단계: 백업 만들기

backup.yaml이 저장되면 my_backup 이라는 이름의 백업을 만듭니다:

./milvus-backup create -c coll -n my_backup

이 명령은 컬렉션 coll의 개체 스토리지에 bucket_B/backup/my_backup 백업을 만듭니다.

백업을 milvus_B로 복원하기

1단계: 복원 설정 구성

2단계를 반복하여 milvus_B 로 복원하기 위한 구성을 수정하고 minio.bucketName 이 bucket_B 로 설정되어 있는지 확인합니다.

다음은 샘플 구성입니다:

...
# milvus proxy address, compatible to milvus.yaml
milvus:
  address: milvus_B
  port: 19530
  authorizationEnabled: false
  # tls mode values [0, 1, 2]
  # 0 is close, 1 is one-way authentication, 2 is two-way authentication.
  tlsMode: 0
  user: "root"
  password: "Milvus"
  
# Related configuration of minio, which is responsible for data persistence for Milvus.
minio:
  # cloudProvider: "minio" # deprecated use storageType instead
  storageType: "minio" # support storage type: local, minio, s3, aws, gcp, ali(aliyun), azure, tc(tencent)
  
  address: localhost # Address of MinIO/S3
  port: 9000   # Port of MinIO/S3
  accessKeyID: minioadmin  # accessKeyID of MinIO/S3
  secretAccessKey: minioadmin # MinIO/S3 encryption string
  useSSL: false # Access to MinIO/S3 with SSL
  useIAM: false
  iamEndpoint: ""
  
  bucketName: "bucket_B" # Milvus Bucket name in MinIO/S3, make it the same as your milvus instance
  rootPath: "files" # Milvus storage root path in MinIO/S3, make it the same as your milvus instance

  # only for azure
  backupAccessKeyID: minioadmin  # accessKeyID of MinIO/S3
  backupSecretAccessKey: minioadmin # MinIO/S3 encryption string
  
  backupBucketName: "bucket_B" # Bucket name to store backup data. Backup data will store to backupBucketName/backupRootPath
  backupRootPath: "backup" # Rootpath to store backup data. Backup data will store to backupBucketName/backupRootPath
...

2단계: 백업 복원

백업을 milvus_B 으로 복원합니다:

./milvus-backup restore -c coll -n my_backup -s _bak

이 명령은 milvus_B 에 coll_bak 라는 새 컬렉션으로 백업을 복원하고 bucket_B/files/insert_log/[ID of new collection] 에 데이터를 저장합니다.