Cncharonly

O filtro cncharonly remove tokens que contenham quaisquer caracteres não chineses. Este filtro é útil quando se pretende focar apenas no texto chinês, filtrando quaisquer tokens que contenham outros scripts, números ou símbolos.

Configuração

O filtro cncharonly está integrado no Milvus. Para o utilizar, basta especificar o seu nome na secção filter dentro de analyzer_params.

analyzer_params = {
    "tokenizer": "standard",
    "filter": ["cncharonly"],
}

O filtro cncharonly opera nos termos gerados pelo tokenizador, por isso deve ser usado em combinação com um tokenizador.

Depois de definir analyzer_params, pode aplicá-los a um campo VARCHAR ao definir um esquema de coleção. Isto permite que o Milvus processe o texto nesse campo utilizando o analisador especificado para uma tokenização e filtragem eficientes. Para mais pormenores, consulte Exemplo de utilização.

Exemplo de saída

Aqui está um exemplo de como o filtro cncharonly processa o texto.

Texto original.

"Milvus 是 LF AI & Data Foundation 下的一个开源项目，以 Apache 2.0 许可发布。"

Saída esperada.

["是", "下", "的", "一个", "开源", "项目", "以", "许可", "发布"]