ICUCompatible with Milvus 2.5.11+

Il tokenizer icu si basa sul progetto open-source Internationalization Components of Unicode (ICU), che fornisce strumenti chiave per l'internazionalizzazione del software. Utilizzando l'algoritmo word-break di ICU, il tokenizer è in grado di dividere accuratamente il testo in parole nella maggior parte delle lingue del mondo.

Configurazione

Per configurare un analizzatore che utilizza il tokenizer icu, impostare tokenizer su icu in analyzer_params.

analyzer_params = {
    "tokenizer": "icu",
}

Map<String, Object> analyzerParams = new HashMap<>();
analyzerParams.put("tokenizer", "icu");

// node

analyzerParams = map[string]any{"tokenizer": "icu"}

# curl

Il tokenizer icu può funzionare insieme a uno o più filtri. Ad esempio, il codice seguente definisce un analizzatore che utilizza il tokenizer icu e il filtro remove punct:

analyzer_params = {
    "tokenizer": "icu",
    "filter": ["removepunct"]
}

Map<String, Object> analyzerParams = new HashMap<>();
analyzerParams.put("tokenizer", "icu");
analyzerParams.put("filter", Collections.singletonList("removepunct"));

// node

analyzerParams = map[string]any{"tokenizer": "icu", "filter": []string{"removepunct"}}

# curl

Dopo aver definito analyzer_params, è possibile applicarli a un campo VARCHAR quando si definisce uno schema di raccolta. Questo permette a Milvus di elaborare il testo in quel campo usando l'analizzatore specificato per una tokenizzazione e un filtraggio efficienti. Per i dettagli, si veda l'esempio di utilizzo.

Esempi

Prima di applicare la configurazione dell'analizzatore allo schema di raccolta, verificarne il comportamento con il metodo run_analyzer.

Configurazione dell'analizzatore

analyzer_params = {
    "tokenizer": "icu",
}

Map<String, Object> analyzerParams = new HashMap<>();
analyzerParams.put("tokenizer", "icu");

// node

analyzerParams = map[string]any{"tokenizer": "icu"}

# curl

Verifica con run_analyzer

from pymilvus import (
    MilvusClient,
)

client = MilvusClient(uri="http://localhost:19530")

# Sample text to analyze
sample_text = "Привет! Как дела?"

# Run the standard analyzer with the defined configuration
result = client.run_analyzer(sample_text, analyzer_params)
print("Standard analyzer output:", result)

import io.milvus.v2.client.ConnectConfig;
import io.milvus.v2.client.MilvusClientV2;
import io.milvus.v2.service.vector.request.RunAnalyzerReq;
import io.milvus.v2.service.vector.response.RunAnalyzerResp;

ConnectConfig config = ConnectConfig.builder()
        .uri("http://localhost:19530")
        .build();
MilvusClientV2 client = new MilvusClientV2(config);

List<String> texts = new ArrayList<>();
texts.add("Привет! Как дела?");

RunAnalyzerResp resp = client.runAnalyzer(RunAnalyzerReq.builder()
        .texts(texts)
        .analyzerParams(analyzerParams)
        .build());
List<RunAnalyzerResp.AnalyzerResult> results = resp.getResults();

// javascript

import (
    "context"
    "encoding/json"
    "fmt"

    "github.com/milvus-io/milvus/client/v2/milvusclient"
)

client, err := milvusclient.New(ctx, &milvusclient.ClientConfig{
    Address: "localhost:19530",
    APIKey:  "root:Milvus",
})
if err != nil {
    fmt.Println(err.Error())
    // handle error
}

bs, _ := json.Marshal(analyzerParams)
texts := []string{"Привет! Как дела?"}
option := milvusclient.NewRunAnalyzerOption(texts).
    WithAnalyzerParams(string(bs))

result, err := client.RunAnalyzer(ctx, option)
if err != nil {
    fmt.Println(err.Error())
    // handle error
}

# restful

Risultato atteso

['Привет', '!', ' ', 'Как', ' ', 'дела', '?']