驱逐Compatible with Milvus 2.6.4+

Eviction 管理 Milvus 中每个查询节点的缓存资源。启用后，一旦达到资源阈值，它就会自动删除缓存数据，确保性能稳定，防止内存或磁盘耗尽。

驱逐使用最近最少使用（LRU）策略来回收缓存空间。元数据始终处于缓存状态，从不驱逐，因为元数据对查询规划至关重要，而且通常很小。

驱逐类型

Milvus 支持两种互补的驱逐模式（ sync 和async），这两种模式可共同实现最佳资源管理：

建议设置：

• 两种驱逐模式可同时启用，以实现最佳平衡，前提是您的工作负载受益于分层存储，并能承受与驱逐相关的获取延迟。

• 对于性能测试或对延迟要求较高的场景，可考虑完全禁用驱逐，以避免驱逐后的网络获取开销。

启用驱逐

在milvus.yaml 的queryNode.segcore.tieredStorage 下配置驱逐：

queryNode:
  segcore:
    tieredStorage:
      evictionEnabled: true             # Enables synchronous eviction
      backgroundEvictionEnabled: true   # Enables background (asynchronous) eviction

配置水印

水印定义内存和磁盘的缓存驱逐开始和结束时间。每种资源类型有两个阈值：

• 高水印：当使用量超过此值时，开始驱逐。

• 低水印：继续驱逐，直到使用率低于此值。

示例 YAML：

queryNode:
  segcore:
    tieredStorage:
      # Memory watermarks
      memoryLowWatermarkRatio: 0.75    # Eviction stops below 75% memory usage
      memoryHighWatermarkRatio: 0.8    # Eviction starts above 80% memory usage

      # Disk watermarks
      diskLowWatermarkRatio: 0.75      # Eviction stops below 75% disk usage
      diskHighWatermarkRatio: 0.8      # Eviction starts above 80% disk usage

最佳实践：

• 不要将高水印或低水印设置在 ~0.80 以上，以便为 QueryNode 的静态使用和查询时间突发留出余地。

• 避免在高水印和低水印之间出现大的间隙；大的间隙会延长每个驱逐周期并增加延迟。

配置缓存 TTL

即使未达到资源阈值，缓存生存时间（TTL）也会在设定的持续时间后自动删除缓存数据。它与 LRU 驱逐一起防止陈旧数据无限期占用缓存。

YAML 示例

queryNode:
  segcore:
    tieredStorage:
      evictionEnabled: true
      backgroundEvictionEnabled: true
      # Set the cache expiration time to 604,800 seconds (7 days),
      # and expired caches will be cleaned up by a background thread.
      cacheTtl: 604800