仅字母
alphanumonly
过滤器删除包含非 ASCII 字符的标记,只保留字母数字术语。该过滤器适用于处理只有基本字母和数字的文本,不包括任何特殊字符或符号。
配置
alphanumonly
过滤器内置在 Milvus 中。要使用它,只需在analyzer_params
中的filter
部分指定其名称即可。
analyzer_params = {
"tokenizer": "standard",
"filter": ["alphanumonly"],
}
alphanumonly
过滤器对标记符生成的术语进行操作,因此必须与标记符结合使用。
定义analyzer_params
后,可以在定义 Collections Schema 时将它们应用到VARCHAR
字段。这样,Milvus 就可以使用指定的分析器对该字段中的文本进行处理,从而实现高效的标记化和过滤。有关详情,请参阅示例使用。
输出示例
下面是alphanumonly
过滤器处理文本的示例。
原始文本。
"Milvus 2.0 @ Scale! #AI #Vector_Databasé"
预期输出。
["Milvus", "2", "0", "Scale", "AI", "Vector"]