长度
length
过滤器可移除不符合指定长度要求的标记,让您可以控制文本处理过程中保留的标记长度。
配置
length
过滤器是 Milvus 中的自定义过滤器,通过在过滤器配置中设置"type": "length"
来指定。您可以将其配置为analyzer_params
中的字典,以定义长度限制。
analyzer_params = {
"tokenizer": "standard",
"filter":[{
"type": "length", # Specifies the filter type as length
"max": 10, # Sets the maximum token length to 10 characters
}],
}
length
过滤器接受以下可配置参数。
参数 | 说明 |
---|---|
| 设置最大标记长度。超过此长度的标记将被删除。 |
length
过滤器对标记符生成器生成的术语进行操作,因此必须与标记符结合使用。
定义analyzer_params
后,可以在定义 Collections Schema 时将其应用到VARCHAR
字段。这样,Milvus 就可以使用指定的分析器对该字段中的文本进行处理,从而实现高效的标记化和过滤。有关详情,请参阅示例使用。
输出示例
下面是length
过滤器处理文本的示例。
示例文本。
"The length filter allows control over token length requirements for text processing."
预期输出(含max: 10
)。
["length", "filter", "allows", "control", "over", "token", "length", "for", "text"]