J’ai construit deux index vectoriels sur une copie de ma propre table LanceDB et je les ai mesurés contre une recherche exacte, et un assistant IA (Claude, d’Anthropic) m’a aidée à écrire le script de test et à rédiger cet article. Les chiffres ci-dessous sont la sortie réelle de ces lancements, avec LanceDB 0.41.0 sur un portable à 8 cœurs et 31,5 Go de RAM. La table est celle du premier article : 1 130 595 lignes et une colonne de vecteurs de 1024 flottants.

Réponse rapide

Pour un index vectoriel LanceDB, la référence est la recherche exacte : sans index, elle prend 2 392 ms en médiane sur cette table. Un index IVF_PQ se construit en 50 secondes, pèse 76,7 Mio et répond en 11 à 29 ms, mais avec les paramètres par défaut il ne retrouve que 66 % des vrais voisins. Ajouter nprobes=100 et refine_factor=10 amène ce rappel à 93,3 % pour 29 ms. Un index IVF_HNSW_SQ se construit en 469 secondes et pèse 1 355 Mio, mais il retrouve 90 % des voisins en 9 ms avec les valeurs par défaut et 99,3 % en 12 à 19 ms avec refine_factor=10. Sur cette table, l’index HNSW coûte neuf fois le temps de construction et environ 18 fois l’espace disque d’IVF_PQ, et il donne le meilleur rappel pour chaque réglage essayé.

Index vectoriel LanceDB sur 1,1 million de vecteurs : exact 2 392 ms, IVF_PQ 11 à 29 ms, IVF_HNSW_SQ 8 à 19 ms
Temps de construction, taille, latence et rappel des deux index.

Le test de l’index vectoriel LanceDB

J’ai pris la copie nettoyée de la table, 5,78 Gio dans un fichier de données, et j’ai tiré 50 lignes au hasard avec une graine fixe. Leurs vecteurs sont les requêtes. La réponse de référence pour chaque requête est la recherche exacte, que j’ai lancée en premier avec l’index contourné, avec la métrique cosinus. Le rappel est la part du top 11 exact que la recherche indexée renvoie aussi. La ligne de la requête figure dans les deux listes, donc le chiffre compte la ligne elle-même plus 10 voisins. La latence est la durée de l’appel Python, avec limit(11) et deux colonnes sélectionnées, mesurée requête par requête. Chaque chiffre vient d’une construction et d’un passage de 50 requêtes.

Sans index : la recherche exacte

RechercheMédianep95Max
Exacte, sans index2 392 ms3 071 ms3 641 ms

La table n’a pas d’index, donc LanceDB compare la requête à chaque vecteur.

IVF_PQ : un petit index vectoriel LanceDB

J’ai créé l’index avec create_index(metric="cosine", index_type="IVF_PQ", num_sub_vectors=64) et laissé les autres paramètres par défaut. La construction a pris 50 secondes. L’index fait 80 380 099 octets, soit 76,7 Mio, en un segment, et il couvre les 1 130 595 lignes. La construction a créé la version 266.

ParamètresRappelMédianep95
défauts0,66026 ms30 ms
nprobes=200,64011 ms13 ms
nprobes=500,65817 ms19 ms
nprobes=20, refine_factor=100,85814 ms16 ms
nprobes=100, refine_factor=100,93329 ms31 ms

Le paramètre nprobes fait visiter plus de partitions à la recherche, et refine_factor reclasse les candidats avec les vecteurs exacts. Sur cette table, le second compte davantage : passer nprobes de 20 à 50 ne gagne presque rien, alors que le reclassement ajoute 22 points de rappel. La première ligne est plus lente que la deuxième alors que je n’ai pas réglé nprobes. J’ai répété les valeurs par défaut quatre fois et la médiane est restée à 26 ms à chaque fois, donc ce n’est pas un cache froid. Les valeurs par défaut ont donné le même rappel (0,660) et presque la même médiane que nprobes=100 (25 ms), donc sur cet index elles se comportent comme environ 100 sondes. La documentation de nprobes que j’ai lue ne donne pas de valeur par défaut, donc j’ai lu le code source de Lance, version 14.0.2, celle qui figure dans les chemins d’erreur de mon installation. Il n’y a pas de valeur par défaut fixe : sans nprobes, la requête utilise un mode adaptatif où le nombre initial de partitions à visiter est choisi pour chaque requête d’après les distances entre la requête et les centroïdes des partitions, et les commentaires du code parlent d’une heuristique empirique, pas d’une garantie de rappel. La comparaison avec nprobes=100 est donc une observation sur mon index, pas une règle. Les autres valeurs sur le même index : nprobes=1 donne 0,384 en 6,7 ms, nprobes=5 donne 0,560 en 7,4 ms et nprobes=10 donne 0,618 en 8,3 ms.

IVF_HNSW_SQ : un gros index vectoriel LanceDB

J’ai créé le second index avec create_index(metric="cosine", index_type="IVF_HNSW_SQ") et toutes les valeurs par défaut, sur une autre copie de la même table. La construction a pris 469 secondes. L’index fait 1 420 975 175 octets, soit 1 355 Mio.

ParamètresRappelMédianep95
défauts0,9009 ms12 ms
nprobes=200,9008 ms10 ms
nprobes=500,9008 ms10 ms
nprobes=20, refine_factor=100,99319 ms24 ms
nprobes=100, refine_factor=100,99312 ms13 ms

Le rappel ne bouge pas avec nprobes ici, et il passe de 0,900 à 0,993 avec refine_factor=10. Je n’ai pas testé les paramètres du graphe HNSW lui-même.

Ce que disent les chiffres et ce qu’ils ne disent pas

L’index vectoriel LanceDB vaut la peine d’être construit : 2,4 secondes par requête deviennent 9 à 29 ms. Le choix entre les deux types est un arbitrage entre l’espace disque et le temps de construction d’un côté, le rappel de l’autre. Pour 1,13 million de lignes, l’index IVF_PQ de 76,7 Mio à 93 % de rappel peut suffire, et l’index HNSW de 1,3 Gio achète les derniers points. Ce sont des mesures sur une table d’embeddings de texte, avec des requêtes prises dans la table elle-même, donc elles ne disent pas comment se comporte un autre jeu de données.

Ce que je n’ai pas testé

Je n’ai pas testé les filtres combinés à la recherche, le coût de l’ajout de lignes une fois l’index créé, les requêtes concurrentes, ni un GPU. J’ai lancé chaque construction une fois, donc je n’ai pas de variance pour les temps de construction. Le rappel compte la ligne de la requête elle-même, ce qui le flatte légèrement, et les chiffres viennent de 50 requêtes, un petit échantillon.

Documentation officielle

Le projet LanceDB documente create_index, les types d’index et les paramètres de recherche, et les pages du format Lance décrivent l’agencement des fichiers d’une table où apparaît le répertoire _indices/.