Cncharonly

Il filtro cncharonly rimuove i token che contengono caratteri non cinesi. Questo filtro è utile quando ci si vuole concentrare solo sul testo cinese, filtrando tutti i token che contengono altri caratteri, numeri o simboli.

Configurazione

Il filtro cncharonly è integrato in Milvus. Per usarlo, basta specificare il suo nome nella sezione filter all'interno di analyzer_params.

analyzer_params = {
    "tokenizer": "standard",
    "filter": ["cncharonly"],
}

Map<String, Object> analyzerParams = new HashMap<>();
analyzerParams.put("tokenizer", "standard");
analyzerParams.put("filter", Collections.singletonList("cncharonly"));

const analyzer_params = {
    "tokenizer": "standard",
    "filter": ["cncharonly"],
};

analyzerParams = map[string]any{"tokenizer": "standard", "filter": []any{"cncharonly"}}

# restful
analyzerParams='{
  "tokenizer": "standard",
  "filter": [
    "cncharonly"
  ]
}'

Il filtro cncharonly opera sui termini generati dal tokenizer, quindi deve essere usato in combinazione con un tokenizer. Per un elenco dei tokenizer disponibili in Milvus, consultare Standard Tokenizer e le sue pagine collaterali.

Dopo aver definito analyzer_params, è possibile applicarlo a un campo VARCHAR quando si definisce uno schema di raccolta. Ciò consente a Milvus di elaborare il testo in quel campo usando l'analizzatore specificato per una tokenizzazione e un filtraggio efficienti. Per i dettagli, si veda l'esempio di utilizzo.

Esempi

Prima di applicare la configurazione dell'analizzatore allo schema di raccolta, verificarne il comportamento con il metodo run_analyzer.

Configurazione dell'analizzatore

analyzer_params = {
    "tokenizer": "standard",
    "filter": ["cncharonly"],
}

Map<String, Object> analyzerParams = new HashMap<>();
analyzerParams.put("tokenizer", "standard");
analyzerParams.put("filter", Collections.singletonList("cncharonly"));

// javascript

analyzerParams = map[string]any{"tokenizer": "standard", "filter": []any{"cncharonly"}}

# restful

Verifica con run_analyzerCompatible with Milvus 2.5.11+

# Sample text to analyze
sample_text = "Milvus 是 LF AI & Data Foundation 下的一个开源项目，以 Apache 2.0 许可发布。"

# Run the standard analyzer with the defined configuration
result = MilvusClient.run_analyzer(sample_text, analyzer_params)
print(result)

// java

// javascript

// go

# restful

Risultato atteso

['是', '下的一个开源项目', '以', '许可发布']