Pourquoi le reranking est le « dernier kilomètre » de la pertinence

C’est une idée répandue : on obtient souvent environ 80 % du résultat avec environ 20 % de l’effort. Et parfois, 80 % suffisent. La recherche fait partie de ces domaines où ce n’est pas tout à fait vrai.

Réfléchissez-y : une bonne partie du marketing en ligne s’est construite sur une « petite » différence, mais décisive. Figurer dans les 3 premiers résultats de recherche change bien plus de choses que d’être entre la 8e et la 10e place.

C’est un angle que l’on peut aussi appliquer à la récupération d’informations : beaucoup de systèmes vous font entrer « dans les résultats », mais l’expérience utilisateur dépend souvent de ce qui apparaît en premier.

Ces derniers mois, nous avons observé un mode d’échec récurrent dans les applications d’IA à base de LLM :

Le bon document ou la bonne information se trouve souvent quelque part dans les résultats, mais pas près du sommet.

Une caractéristique du travail de connaissance piloté par des LLM est son débit très élevé. Quand des humains sont dans la boucle, ils se concentrent surtout sur les premiers résultats. Dans les rares cas où l’on peut retirer les humains de la boucle, les workflows automatisés finissent souvent par se comporter de la même façon. Le débit du système est alors bien plus élevé que celui des humains, mais les attentes augmentent (au moins) au même rythme. Les contraintes de calcul poussent ensuite les workflows soit à se concentrer sur les meilleurs résultats, soit à recourir à des implémentations ad hoc pour garantir la qualité, au prix d’une complexité accrue. Et cette complexité rend les solutions fragiles et moins flexibles.

Pour les ingénieurs produit, cela revient à choisir entre :

• « C’est quelque part là-dedans, mais pas tout à fait là où il faut, et c’est bof. »
• « Je peux le faire marcher, mais saurons-nous le maintenir et le faire évoluer ? »

C’est là que les rerankers entrent en jeu et peuvent aider de façon significative à passer de 80 % à près de 99 %.

Le principe : récupérer large, puis reclasser serré

Le reranking suit un schéma en deux étapes :

1. Première passe (récupération) : faire quelque chose de rapide pour obtenir une liste restreinte de résultats « peut-être pertinents ».
2. Seconde passe (reranking) : faire quelque chose de plus réfléchi pour placer les meilleurs en tête.

(On parle de re-ranking, ou reclassement, parce qu’on classe des résultats qui ont déjà été classés une première fois.)

La principale contrainte pratique de ce dispositif est que la seconde étape coûte nettement plus cher par résultat que la première. On veut donc souvent l’appliquer à une liste restreinte. Tout cela s’inscrit dans la logique des 80/20. Au-delà de 80 %, les rendements décroissent plus vite et chaque amélioration coûte davantage. Savoir si le jeu en vaut la chandelle doit s’évaluer au cas par cas.

Le reranking dans une vraie chaîne de traitement

Dans une vraie chaîne de récupération, il est souvent utile de régler certains points avant même de penser à l’ordre des résultats :

• Contrôles de base et nettoyage (fautes de frappe, normalisation)
• Interprétation de la requête (entités, intention)
• Élargissement ou assouplissement si nécessaire (expansion / relaxation)

Ensuite :

• Lancez votre étape de récupération rapide pour rassembler les candidats.
• Appliquez une couche finale de classement, le reranking, pour que les meilleurs candidats remontent en tête.

(Si vous ne deviez retenir qu’une idée de cet article : considérez le reranking comme le dernier kilomètre de la pertinence.)

GreenPT propose le reranking sous forme d’API, pour que vous puissiez l’intégrer à la chaîne de récupération que vous avez déjà.

L’avantage pratique : vous pouvez simplement essayer le reranking et voir si les gains justifient le coût.

Et vous pouvez le faire tout en respectant les attentes réelles de vos clients, de vos employés ou de vos partenaires en matière de confidentialité. Nous :

• gardons un traitement des données prévisible en ne partageant vos données avec personne ;
• évitons d’envoyer le contenu de vos données aux quatre coins du monde, en restant dans une application hébergée dans l’UE.

Si vous essayez notre reranker, nous serions ravis d’avoir de vos nouvelles :

• dans quel domaine vous travaillez ;
• quelles requêtes sont les plus difficiles ;
• ce qui a changé après l’ajout du reranking.

Vous pouvez aussi consulter directement la référence de l’API Reranker.