存储/计算分解
按照数据平面和控制平面分解的原则,Milvus 包括四个层,在可扩展性和灾难恢复方面相互独立。
接入层
访问层由一组无状态代理组成,是系统的前端层,也是用户的终端。它验证客户端请求并减少返回结果:
- 代理本身是无状态的。它使用 Nginx、Kubernetes Ingress、NodePort 和 LVS 等负载平衡组件提供统一的服务地址。
- 由于 Milvus 采用的是大规模并行处理(MPP)架构,代理会对中间结果进行聚合和后处理,然后将最终结果返回给客户端。
协调器
协调器是Milvus 的大脑。在任何时刻,整个集群都有一个协调器在工作,负责维护集群拓扑结构、调度所有任务类型并保证集群级一致性。
以下是协调员处理的部分任务:
- DDL/DCL/TSO 管理:处理数据定义语言 (DDL) 和数据控制语言 (DCL) 请求,如创建或删除 Collections、分区或索引,以及管理时间戳 Oracle (TSO) 和时间刻度签发。
- 流服务管理:将先写日志(WAL)与流节点绑定,并为流服务提供服务发现功能。
- 查询管理:管理查询节点的拓扑结构和负载平衡,并提供和管理服务查询视图,以指导查询路由。
- 历史数据管理:将压缩和索引建立等离线任务分配给数据节点,并管理数据段和数据视图的拓扑结构。
工作节点
手臂和腿。工作节点是遵从协调器指令的哑执行器。由于存储和计算分离,工作节点是无状态的,部署在 Kubernetes 上时可促进系统扩展和灾难恢复。工作节点有三种类型:
流节点
流节点作为碎片级的 "小型大脑",基于底层 WAL 存储提供碎片级的一致性保证和故障恢复。同时,流节点还负责增长数据查询和生成查询计划。此外,它还负责将增长数据转换为封存(历史)数据。
查询节点
查询节点从对象存储中加载历史数据,并提供历史数据查询。
数据节点
数据节点负责离线处理历史数据,如压缩和建立索引。
存储
存储是系统的骨骼,负责数据的持久性。它包括元存储、日志代理和对象存储。
元存储
元存储存储元数据快照,如 Collections Schema 和消息消耗检查点。元数据的存储要求极高的可用性、强一致性和事务支持,因此 Milvus 选择 etcd 作为元存储。Milvus 还使用 etcd 进行服务注册和健康检查。
对象存储
对象存储用于存储日志快照文件、标量和向量数据的索引文件以及中间查询结果。Milvus 使用 MinIO 作为对象存储,可随时部署在 AWS S3 和 Azure Blob 这两个全球最流行、最具成本效益的存储服务上。然而,对象存储的访问延迟较高,并按查询次数收费。为了提高性能并降低成本,Milvus 计划在基于内存或固态硬盘的缓存池上实现冷热数据分离。
WAL 存储
先写日志(WAL)存储是分布式系统中数据持久性和一致性的基础。在提交任何更改之前,首先要将其记录在日志中,以确保在发生故障时,可以准确恢复到之前的位置。
常见的 WAL 实现包括 Kafka、Pulsar 和 Woodpecker。与传统的基于磁盘的解决方案不同,Woodpecker 采用云原生的零磁盘设计,直接写入对象存储。这种方法可以毫不费力地根据您的需求进行扩展,并通过消除管理本地磁盘的开销来简化操作符。
通过提前记录每次写入操作,WAL 层保证了可靠的全系统恢复和一致性机制--无论您的分布式环境发展得多么复杂。
下一步
- 阅读 "主要组件",了解有关 Milvus 架构的更多详情。