Wortstammfilter
Der Filter stemmer reduziert Wörter auf ihre Grund- oder Wurzelform (bekannt als Stemming), wodurch es einfacher wird, Wörter mit ähnlicher Bedeutung in verschiedenen Beugungsformen zu finden. Der Filter stemmer unterstützt mehrere Sprachen und ermöglicht so eine effektive Suche und Indizierung in verschiedenen sprachlichen Kontexten.
Konfiguration
Der stemmer Filter ist ein benutzerdefinierter Filter in Milvus. Um ihn zu verwenden, geben Sie "type": "stemmer" in der Filterkonfiguration an, zusammen mit einem language Parameter, um die gewünschte Sprache für das Stemming auszuwählen.
analyzer_params = {
"tokenizer": "standard",
"filter":[{
"type": "stemmer", # Specifies the filter type as stemmer
"language": "english", # Sets the language for stemming to English
}],
}
Der Filter stemmer akzeptiert die folgenden konfigurierbaren Parameter.
Parameter | Beschreibung |
|---|---|
| Gibt die Sprache für den Stemming-Prozess an. Unterstützte Sprachen sind: |
Der Filter stemmer arbeitet mit den vom Tokenizer erzeugten Begriffen, muss also in Kombination mit einem Tokenizer verwendet werden.
Nachdem Sie analyzer_params definiert haben, können Sie sie bei der Definition eines Sammelschemas auf ein VARCHAR Feld anwenden. Dadurch kann Milvus den Text in diesem Feld unter Verwendung des angegebenen Analysators für eine effiziente Tokenisierung und Filterung verarbeiten. Einzelheiten finden Sie unter Beispielanwendung.
Beispiel-Ausgabe
Hier ist ein Beispiel dafür, wie der stemmer Filter Text verarbeitet.
Ursprünglicher Text.
"running runs looked ran runner"
Erwartete Ausgabe (mit language: "english").
["run", "run", "look", "ran", "runner"]
