milvus-logo
LFAI
首页
  • 用户指南

长度

length 过滤器可移除不符合指定长度要求的标记,让您可以控制文本处理过程中保留的标记长度。

配置

length 过滤器是 Milvus 中的自定义过滤器,通过在过滤器配置中设置"type": "length" 来指定。您可以将其配置为analyzer_params 中的字典,以定义长度限制。

analyzer_params = {
    "tokenizer": "standard",
    "filter":[{
        "type": "length", # Specifies the filter type as length
        "max": 10, # Sets the maximum token length to 10 characters
    }],
}

length 过滤器接受以下可配置参数。

参数

说明

max

设置最大标记长度。超过此长度的标记将被删除。

length 过滤器对标记符生成器生成的术语进行操作,因此必须与标记符结合使用。

定义analyzer_params 后,可以在定义 Collections Schema 时将其应用到VARCHAR 字段。这样,Milvus 就可以使用指定的分析器对该字段中的文本进行处理,从而实现高效的标记化和过滤。有关详情,请参阅示例使用

输出示例

下面是length 过滤器处理文本的示例。

示例文本

"The length filter allows control over token length requirements for text processing."

预期输出(含max: 10 )。

["length", "filter", "allows", "control", "over", "token", "length", "for", "text"]

翻译自DeepLogo

想要更快、更简单、更好用的 Milvus SaaS服务 ?

Zilliz Cloud是基于Milvus的全托管向量数据库,拥有更高性能,更易扩展,以及卓越性价比

免费试用 Zilliz Cloud
反馈

此页对您是否有帮助?