IVF_RABITQ_FASTSCANCompatible with Milvus 3.0.x

IVF_RABITQ_FASTSCAN combina il partizionamento IVF, la quantizzazione binaria RaBitQ e l'elaborazione in batch FastScan. Memorizza codici RaBitQ a un bit per i vettori del database ed elabora i codici in blocchi di 32 vettori del database ottimizzati per SIMD. Ciò lo rende una scelta ideale per carichi di lavoro ad alta produttività e con limitazioni di memoria che possono accettare risultati approssimativi.

Scegliere IVF_RABITQ_FASTSCAN anziché IVF_RABITQ quando le ricerche analizzano molti candidati e la produttività è l’obiettivo primario. Il costo di configurazione per query di FastScan viene ammortizzato sui blocchi di codice compressi, quindi è in genere più vantaggioso per set di dati di grandi dimensioni o elenchi IVF lunghi. Per raccolte di piccole dimensioni o ricerche che esaminano pochi candidati, utilizzare invece IVF_RABITQ. Supporta inoltre la quantizzazione delle query configurabile, più tipi di raffinamento e iteratori.

Come funziona

IVF_RABITQ_FASTSCAN utilizza le seguenti fasi:

  1. Partizionamento IVF: l’IVF raggruppa i vettori in cluster nlist i ed effettua la ricerca nei cluster più vicini secondo l’ nprobe.
  2. Codifica RaBitQ: ogni residuo vettoriale viene codificato come codice RaBitQ a un bit per dimensione.
  3. FastScan: l’indice raggruppa i codici per un’elaborazione in batch SIMD ottimizzata per la cache. Valuta 32 vettori del database in ogni batch.
  4. Raffinamento opzionale: quando abilitato, un raffinatore FP32 ricalcola il punteggio dei candidati prima che Milvus restituisca i risultati finali.

L’indice Faiss sottostante è IndexIVFRaBitQFastScan. Knowhere lo avvolge con una trasformazione di rotazione casuale e, facoltativamente, aggiunge un raffinatore FP32.

FastScan esegue operazioni di preparazione per ogni query, come la creazione e la quantizzazione delle tabelle di ricerca relative alla query, prima di scansionare i blocchi di codice compressi. Eseguite il benchmark sia su IVF_RABITQ che su IVF_RABITQ_FASTSCAN con i vostri dati e parametri di ricerca.

Creazione dell’indice

Per creare un indice IVF_RABITQ_FASTSCAN su un campo vettoriale in Milvus, utilizzare il metodo add_index(), specificando index_type, metric_type e i parametri aggiuntivi per l’indice.

from pymilvus import MilvusClient

# Prepare index building params
index_params = MilvusClient.prepare_index_params()

index_params.add_index(
    field_name="your_vector_field_name", # Name of the vector field to be indexed
    index_type="IVF_RABITQ_FASTSCAN", # Type of the index to create
    index_name="vector_index", # Name of the index to create
    metric_type="L2", # Metric type used to measure similarity
    params={
        "nlist": 1024, # Number of clusters for the index
        "refine": True, # Enable refinement for higher recall
        "refine_type": "FP32" # Refinement data format
    } # Index building params
)

In questa configurazione:

  • index_type: Il tipo di indice da creare. In questo esempio, impostare il valore su ` IVF_RABITQ_FASTSCAN`.

  • metric_type: Il metodo utilizzato per calcolare la distanza tra i vettori. I valori supportati includono COSINE, L2 e IP. Per ulteriori dettagli, consultare Tipi di metrica.

  • params: Opzioni di configurazione aggiuntive per la creazione dell’indice. Per ulteriori dettagli, consultare Parametri di creazione dell’indice.

Una volta configurati i parametri dell’indice, è possibile creare l’indice utilizzando direttamente il metodo create_index() oppure passando i parametri dell’indice nel metodo create_collection. Per ulteriori dettagli, consultare la sezione Creazione di una raccolta.

Ricerca sull’indice

Una volta creato l’indice e inserite le entità, è possibile eseguire ricerche di similarità sull’indice.

Impostare ` nprobe ` per controllare il numero di cluster IVF da cercare. Se l’indice è stato creato con il raffinamento, utilizzare ` refine_k ` per controllare il pool di candidati passato al raffinatore FP32.

client = MilvusClient(uri="http://localhost:19530") # Replace with your Milvus server address

search_params = {
    "params": {
        "nprobe": 128, # Number of clusters to search
        "refine_k": 2 # Refinement magnification factor
    }
}

res = client.search(
    collection_name="your_collection_name", # Collection name
    anns_field="your_vector_field_name", # Vector field name
    data=[[0.1, 0.2, 0.3, 0.4, 0.5]], # Query vector
    limit=3, # TopK results to return
    search_params=search_params
)

In questa configurazione:

A differenza di ` IVF_RABITQ`, ` IVF_RABITQ_FASTSCAN ` non accetta il parametro di ricerca ` rbq_bits_query `. FastScan utilizza sempre internamente la quantizzazione delle query a 8 bit, quindi ometti ` rbq_bits_query ` o impostalo su ` 0`; i valori più grandi vengono rifiutati.

Parametri dell’indice

Questa sezione fornisce una panoramica dei parametri utilizzati per la creazione di un indice e per l’esecuzione di ricerche sull’indice.

Parametri di creazione dell’indice

La tabella seguente elenca i parametri che è possibile configurare in params durante la creazione di un indice.

Parametro

Descrizione

Intervallo di valori

Suggerimento di ottimizzazione

IVF

nlist

Il numero di cluster da creare utilizzando l'algoritmo k-means durante la creazione dell'indice. Ogni cluster, rappresentato da un centroide, memorizza un elenco di vettori. Aumentando questo parametro si riduce il numero di vettori in ciascun cluster, creando partizioni più piccole e mirate.

Tipo: Intero
Intervallo: [1, 65536]
Valore predefinito: 128

Valori più elevati di " nlist " migliorano il recall creando cluster più raffinati, ma aumentano il tempo di creazione dell'indice. Ottimizzare in base alle dimensioni del set di dati e alle risorse disponibili. Nella maggior parte dei casi, si consiglia di impostare un valore compreso in questo intervallo: [32, 4096].

RaBitQ

refine

Abilita il processo di affinamento e memorizza i dati affinati. IVF_RABITQ_FASTSCAN supporta solo l'affinamento in FP32.

Tipo: Booleano
Intervallo: [true, false]
Valore predefinito: false

Impostare su true se è necessario un tasso di richiamo pari o superiore a 0,9. L'abilitazione del raffinamento migliora la precisione, ma aumenta i requisiti di archiviazione e il tempo di creazione dell'indice.

refine_type

Definisce la rappresentazione dei dati utilizzata per il raffinamento quando è abilitato refine. Richiesto solo quando refine è true.

Tipo: Stringa
Intervallo: [FP32, FLAT]
Valore predefinito: Nessuno

IVF_RABITQ_FASTSCAN Supporta solo il perfezionamento FP32 e FLAT è identico a FP32. La corrispondenza dei valori non distingue tra maiuscole e minuscole.

Parametri di ricerca specifici dell’indice

La tabella seguente elenca i parametri configurabili in search_params.params durante la ricerca nell’indice.

Parametro

Descrizione

Intervallo di valori

Suggerimento di ottimizzazione

IVF

nprobe

Il numero di cluster in cui cercare i candidati. Valori più elevati consentono di effettuare la ricerca in un numero maggiore di cluster, migliorando il recall grazie all'ampliamento dell'ambito di ricerca, ma a scapito di una maggiore latenza della query.

Tipo: Intero
Intervallo: [1, nlist]
Valore predefinito: 8

Aumentando questo valore si migliora il recall, ma la ricerca potrebbe rallentare. Impostare nprobe in modo proporzionale a nlist per bilanciare velocità e precisione. Nella maggior parte dei casi, si consiglia di impostare un valore compreso in questo intervallo: [1, nlist].

RaBitQ

refine_k

Il processo di affinamento utilizza una quantizzazione di qualità superiore per selezionare il numero necessario di vicini più prossimi da un pool di candidati, refine_k volte più ampio, scelto tramite IVF_RABITQ_FASTSCAN. Non ha alcun effetto se l'affinamento è disabilitato.

Tipo: Float
Intervallo: [1, float_max)
Valore predefinito: 1

Valori più alti di refine_k riducono il QPS ma aumentano il tasso di richiamo. Inizia con 1 e prova i valori 2, 3, 4 e 5 per trovare il compromesso ottimale tra QPS e richiamo per il tuo set di dati.

rbq_bits_query

Stabilisce se applicare un'ulteriore quantizzazione scalare a un vettore di query. Non supportato su IVF_RABITQ_FASTSCAN: l'indice utilizza sempre internamente una quantizzazione delle query a 8 bit. Ometti questo parametro oppure impostalo su 0; i valori superiori a 0 vengono rifiutati.

Tipo: Intero
Intervallo: [0, 0]
Valore predefinito: 0

Lasciarlo non impostato. Per la quantizzazione della query configurabile, utilizzare invece IVF_RABITQ.

Limitazioni

  • FastScan utilizza una codifica fissa del database RaBitQ a 1 bit e una quantizzazione delle query a 8 bit. L'rbq_bits_query deve essere omesso o impostato su 0.
  • È supportato solo il raffinamento FP32 (equivalente a FLAT).
  • Gli iteratori non sono supportati.
  • Si tratta di un indice CPU. Non funziona su GPU.
  • Le prestazioni effettive dipendono dal supporto SIMD della CPU, dalla dimensione del vettore, da nlist, da nprobe e dalla distribuzione dei dati. Eseguire un benchmark con il proprio carico di lavoro prima di implementarlo in produzione.

Per la variante RaBitQ non FastScan e le relative opzioni di affinamento aggiuntive, consultare IVF_RABITQ.

Tradotto daDeepL

Prova Milvus gestito gratuitamente

Zilliz Cloud è senza problemi, basato su Milvus e 10 volte più veloce.

Inizia
Feedback

Questa pagina è stata utile?