IVF_RABITQ_FASTSCANCompatible with Milvus 3.0.x
IVF_RABITQ_FASTSCAN combina il partizionamento IVF, la quantizzazione binaria RaBitQ e l'elaborazione in batch FastScan. Memorizza codici RaBitQ a un bit per i vettori del database ed elabora i codici in blocchi di 32 vettori del database ottimizzati per SIMD. Ciò lo rende una scelta ideale per carichi di lavoro ad alta produttività e con limitazioni di memoria che possono accettare risultati approssimativi.
Scegliere IVF_RABITQ_FASTSCAN anziché IVF_RABITQ quando le ricerche analizzano molti candidati e la produttività è l’obiettivo primario. Il costo di configurazione per query di FastScan viene ammortizzato sui blocchi di codice compressi, quindi è in genere più vantaggioso per set di dati di grandi dimensioni o elenchi IVF lunghi. Per raccolte di piccole dimensioni o ricerche che esaminano pochi candidati, utilizzare invece IVF_RABITQ. Supporta inoltre la quantizzazione delle query configurabile, più tipi di raffinamento e iteratori.
Come funziona
IVF_RABITQ_FASTSCAN utilizza le seguenti fasi:
- Partizionamento IVF: l’IVF raggruppa i vettori in cluster
nlisti ed effettua la ricerca nei cluster più vicini secondo l’nprobe. - Codifica RaBitQ: ogni residuo vettoriale viene codificato come codice RaBitQ a un bit per dimensione.
- FastScan: l’indice raggruppa i codici per un’elaborazione in batch SIMD ottimizzata per la cache. Valuta 32 vettori del database in ogni batch.
- Raffinamento opzionale: quando abilitato, un raffinatore FP32 ricalcola il punteggio dei candidati prima che Milvus restituisca i risultati finali.
L’indice Faiss sottostante è IndexIVFRaBitQFastScan. Knowhere lo avvolge con una trasformazione di rotazione casuale e, facoltativamente, aggiunge un raffinatore FP32.
FastScan esegue operazioni di preparazione per ogni query, come la creazione e la quantizzazione delle tabelle di ricerca relative alla query, prima di scansionare i blocchi di codice compressi. Eseguite il benchmark sia su IVF_RABITQ che su IVF_RABITQ_FASTSCAN con i vostri dati e parametri di ricerca.
Creazione dell’indice
Per creare un indice IVF_RABITQ_FASTSCAN su un campo vettoriale in Milvus, utilizzare il metodo add_index(), specificando index_type, metric_type e i parametri aggiuntivi per l’indice.
from pymilvus import MilvusClient
# Prepare index building params
index_params = MilvusClient.prepare_index_params()
index_params.add_index(
field_name="your_vector_field_name", # Name of the vector field to be indexed
index_type="IVF_RABITQ_FASTSCAN", # Type of the index to create
index_name="vector_index", # Name of the index to create
metric_type="L2", # Metric type used to measure similarity
params={
"nlist": 1024, # Number of clusters for the index
"refine": True, # Enable refinement for higher recall
"refine_type": "FP32" # Refinement data format
} # Index building params
)
In questa configurazione:
index_type: Il tipo di indice da creare. In questo esempio, impostare il valore su `IVF_RABITQ_FASTSCAN`.metric_type: Il metodo utilizzato per calcolare la distanza tra i vettori. I valori supportati includonoCOSINE,L2eIP. Per ulteriori dettagli, consultare Tipi di metrica.params: Opzioni di configurazione aggiuntive per la creazione dell’indice. Per ulteriori dettagli, consultare Parametri di creazione dell’indice.
Una volta configurati i parametri dell’indice, è possibile creare l’indice utilizzando direttamente il metodo create_index() oppure passando i parametri dell’indice nel metodo create_collection. Per ulteriori dettagli, consultare la sezione Creazione di una raccolta.
Ricerca sull’indice
Una volta creato l’indice e inserite le entità, è possibile eseguire ricerche di similarità sull’indice.
Impostare ` nprobe ` per controllare il numero di cluster IVF da cercare. Se l’indice è stato creato con il raffinamento, utilizzare ` refine_k ` per controllare il pool di candidati passato al raffinatore FP32.
client = MilvusClient(uri="http://localhost:19530") # Replace with your Milvus server address
search_params = {
"params": {
"nprobe": 128, # Number of clusters to search
"refine_k": 2 # Refinement magnification factor
}
}
res = client.search(
collection_name="your_collection_name", # Collection name
anns_field="your_vector_field_name", # Vector field name
data=[[0.1, 0.2, 0.3, 0.4, 0.5]], # Query vector
limit=3, # TopK results to return
search_params=search_params
)
In questa configurazione:
params: Opzioni di configurazione aggiuntive per la ricerca sull’indice. Per ulteriori dettagli, consultare Parametri di ricerca specifici dell’indice.
A differenza di ` IVF_RABITQ`, ` IVF_RABITQ_FASTSCAN ` non accetta il parametro di ricerca ` rbq_bits_query `. FastScan utilizza sempre internamente la quantizzazione delle query a 8 bit, quindi ometti ` rbq_bits_query ` o impostalo su ` 0`; i valori più grandi vengono rifiutati.
Parametri dell’indice
Questa sezione fornisce una panoramica dei parametri utilizzati per la creazione di un indice e per l’esecuzione di ricerche sull’indice.
Parametri di creazione dell’indice
La tabella seguente elenca i parametri che è possibile configurare in params durante la creazione di un indice.
Parametro |
Descrizione |
Intervallo di valori |
Suggerimento di ottimizzazione |
|
|---|---|---|---|---|
IVF |
|
Il numero di cluster da creare utilizzando l'algoritmo k-means durante la creazione dell'indice. Ogni cluster, rappresentato da un centroide, memorizza un elenco di vettori. Aumentando questo parametro si riduce il numero di vettori in ciascun cluster, creando partizioni più piccole e mirate. |
Tipo: Intero |
Valori più elevati di " |
RaBitQ |
|
Abilita il processo di affinamento e memorizza i dati affinati. |
Tipo: Booleano |
Impostare su |
|
Definisce la rappresentazione dei dati utilizzata per il raffinamento quando è abilitato |
Tipo: Stringa |
|
Parametri di ricerca specifici dell’indice
La tabella seguente elenca i parametri configurabili in search_params.params durante la ricerca nell’indice.
Parametro |
Descrizione |
Intervallo di valori |
Suggerimento di ottimizzazione |
|
|---|---|---|---|---|
IVF |
|
Il numero di cluster in cui cercare i candidati. Valori più elevati consentono di effettuare la ricerca in un numero maggiore di cluster, migliorando il recall grazie all'ampliamento dell'ambito di ricerca, ma a scapito di una maggiore latenza della query. |
Tipo: Intero |
Aumentando questo valore si migliora il recall, ma la ricerca potrebbe rallentare. Impostare |
RaBitQ |
|
Il processo di affinamento utilizza una quantizzazione di qualità superiore per selezionare il numero necessario di vicini più prossimi da un pool di candidati, |
Tipo: Float |
Valori più alti di |
|
Stabilisce se applicare un'ulteriore quantizzazione scalare a un vettore di query. Non supportato su |
Tipo: Intero |
Lasciarlo non impostato. Per la quantizzazione della query configurabile, utilizzare invece IVF_RABITQ. |
Limitazioni
- FastScan utilizza una codifica fissa del database RaBitQ a 1 bit e una quantizzazione delle query a 8 bit. L'
rbq_bits_querydeve essere omesso o impostato su0. - È supportato solo il raffinamento FP32 (equivalente a
FLAT). - Gli iteratori non sono supportati.
- Si tratta di un indice CPU. Non funziona su GPU.
- Le prestazioni effettive dipendono dal supporto SIMD della CPU, dalla dimensione del vettore, da
nlist, danprobee dalla distribuzione dei dati. Eseguire un benchmark con il proprio carico di lavoro prima di implementarlo in produzione.
Per la variante RaBitQ non FastScan e le relative opzioni di affinamento aggiuntive, consultare IVF_RABITQ.