Mesures de similarité vectorielle : L2, cosinus et produit scalaire

Qu’est-ce qu’une métrique ?

Une métrique est simplement une fonction qui prend deux vecteurs et renvoie un seul nombre indiquant à quel point ils sont similaires (ou différents). La recherche vectorielle consiste, fondamentalement, à « trouver les K vecteurs présentant le meilleur score métrique par rapport à ma requête ». Tout le reste — index, clusters, graphes — n’est qu’une question d’organisation visant à éviter de calculer ce score pour chaque vecteur de la base de données.

La métrique que vous choisissez définit ce que signifie « similaire » pour vos données. Deux représentations peuvent être « proches » selon une métrique et « éloignées » selon une autre — mêmes données, réponse différente. C’est pourquoi ce choix s’effectue avant même que vous ne créiez un index.

Les trois que vous rencontrerez dans la pratique

• L2 (Euclidienne) : distance en ligne droite. Plus la valeur est faible, mieux c’est. À utiliser lorsque la direction et l’amplitude importent toutes deux — représentations d’images, coordonnées géographiques, mesures brutes de capteurs. Valeur par défaut pour la plupart des modèles de vision par ordinateur.
• Cosinus : angle entre deux vecteurs, sans tenir compte de leur longueur. Plus la valeur est élevée, mieux c’est. À utiliser lorsque seule la direction importe — plongements de texte (BERT, OpenAI, etc.), systèmes de recommandation où la « popularité » des vecteurs ne doit pas prévaloir.
• Inner Product (IP) : produit scalaire, qui prend en compte à la fois l’alignement ET la magnitude. Plus la valeur est élevée, mieux c’est. À utiliser avec des modèles qui effectuent explicitement une normalisation pour l’ IP (DPR, de nombreux modèles de récupération). Mathématiquement identique au cosinus lorsque les vecteurs sont de longueur unitaire.

Deux règles pratiques

• Adaptez la métrique au modèle. Les modèles d’embedding sont entraînés en fonction d’une métrique spécifique. En utiliser une autre au moment de la recherche réduira considérablement votre recall sans que vous vous en rendiez compte. Vérifiez la fiche du modèle avant de faire votre choix.
• Restez cohérent. Tous les vecteurs d’une collection doivent utiliser la même métrique. Vous ne pouvez pas les mélanger au sein d’un même index, et vous ne pouvez pas comparer de manière pertinente les scores entre différentes métriques.

Essayez ceci : faites glisser le point de requête près de l’origine et basculez entre « Cosine » et « L2 ». Observez comment « Cosine » ne s’intéresse qu’à la « direction » vers laquelle pointe la requête — des points situés de l’autre côté de l’origine peuvent être « proches » avec « L2 », mais « éloignés » avec « Cosine ». Cette illustration résume tout le concept.