在 AWS 上为 Milvus 设置第 7 层负载平衡器

与第四层负载平衡器相比，第七层负载平衡器具有智能负载平衡和缓存功能，是云原生服务的最佳选择。

本指南将指导您为已在第 4 层负载平衡器后面运行的 Milvus 集群设置第 7 层负载平衡器。

开始之前

• 您已在 AWS 上的第 4 层负载平衡器后面部署了一个 Milvus 群集。

调整 Milvus 配置

本指南假定您已在 AWS 的第 4 层负载平衡器后面部署了 Milvus 群集。

在为该 Milvus 群集设置第 7 层负载平衡器之前，请运行以下命令移除第 4 层负载平衡器。

helm upgrade milvus-demo milvus/milvus -n milvus --set service.type=ClusterIP

准备 TLS 证书

TLS 需要证书才能工作。我们使用ACM管理证书，因此需要将现有证书导入 ACM。请参阅导入证书。下面是一个示例。

# If the import-certificate command is successful, it returns the arn of the imported certificate.
aws acm import-certificate --certificate fileb://Certificate.pem \
      --certificate-chain fileb://CertificateChain.pem \
      --private-key fileb://PrivateKey.pem  

创建入口以生成第 7 层负载平衡器

按以下步骤准备输入文件，并将其命名为ingress.yaml 。将证书 arn 和 host 替换为您自己的。

apiVersion: networking.k8s.io/v1
kind: Ingress
metadata:
  namespace: milvus
  name: milvus-demo
  annotations:
    alb.ingress.kubernetes.io/scheme: internet-facing
    alb.ingress.kubernetes.io/backend-protocol-version: GRPC
    alb.ingress.kubernetes.io/target-type: ip
    alb.ingress.kubernetes.io/listen-ports: '[{"HTTPS":443}]'
    alb.ingress.kubernetes.io/certificate-arn: "arn:aws:acm:region:account-id:certificate/certificate-id"

spec:
  ingressClassName: alb
  rules:
    - host: milvus-demo.milvus.io
      http:
        paths:
        - path: /
          pathType: Prefix
          backend:
            service:
              name: milvus-demo
              port:
                number: 19530

然后，将该文件应用于 EKS 群集，即可创建 Ingress。

kubectl apply -f ingress.yaml

现在，等待 AWS 设置第 7 层负载平衡器。您可以运行

kubectl -f ingress.yaml get -w

输出结果应与下图类似：

NAME          CLASS   HOSTS                   ADDRESS                                                                PORTS   AGE
milvus-demo   alb     milvus-demo.milvus.io   k8s-milvus-milvusde-2f72215c02-778371620.us-east-2.elb.amazonaws.com   80      10m

一旦ADDRESS字段中显示地址，Layer-7 负载平衡器就可以使用了。

验证通过 Layer-7 负载平衡器的连接

本指南使用 PyMilvus 来验证与我们刚刚创建的 Layer-7 负载平衡器后面的 Milvus 服务的连接。有关详细步骤，请阅读此文。

from pymilvus import (
    connections,
    utility,
    FieldSchema,
    CollectionSchema,
    DataType,
    Collection,
)

connections.connect("default", host="k8s-milvus-milvusde-2f72215c02-778371620.us-east-2.elb.amazonaws.com", port="443", secure=True, server_name="milvus-demo.milvus.io")