Por qué el reranking es la “última milla” de la relevancia

Hay una idea muy extendida: a menudo se consigue cerca del 80 % del resultado con cerca del 20 % del esfuerzo. Y a veces ese 80 % basta. La búsqueda es uno de esos ámbitos en los que eso no se cumple del todo.

Piénsalo: buena parte del marketing online se construyó sobre una diferencia “pequeña” pero crucial. Estar entre los 3 primeros resultados de búsqueda cambia muchísimo más las cosas que estar entre el puesto 8 y el 10.

Esa misma lente sirve para la recuperación de información: muchos sistemas pueden colocarte “en los resultados”, pero la experiencia de quien busca suele depender de lo que aparece primero.

En los últimos meses hemos visto un fallo recurrente en las aplicaciones de IA con LLM:

El documento o la información correctos suelen estar en alguna parte de los resultados, pero no cerca de los primeros puestos.

Una característica del trabajo del conocimiento con LLM es que el volumen procesado es muy alto. Cuando hay personas en el circuito, se fijan sobre todo en los primeros resultados. En los raros casos en que se puede prescindir de ellas, los flujos automatizados suelen acabar comportándose igual. El sistema procesa entonces mucho más que una persona, pero las expectativas crecen (como mínimo) al mismo ritmo. Las limitaciones de cómputo empujan a los flujos de trabajo a centrarse en los primeros resultados o a exigir implementaciones ad hoc que garanticen la calidad a costa de más complejidad. Y esa complejidad vuelve las soluciones frágiles y menos flexibles.

Para quienes desarrollan el producto, todo parece reducirse a elegir entre:

• “Está ahí en algún sitio, pero no del todo, y eso, pues regular”.
• “Puedo hacer que funcione, pero ¿lo podremos mantener y ampliar bien?”.

Aquí es donde entran los rerankers, que pueden ayudar mucho a pasar del 80 % y acercarse al 99 %.

La idea clave: recuperar a lo ancho y reordenar en corto

El reranking es un patrón de dos pasos:

1. Primera pasada (recuperar): haz algo rápido para obtener una lista corta de resultados “quizá relevantes”.
2. Segunda pasada (reordenar): haz algo más reflexivo para poner los mejores arriba.

(Se llama re-ranking porque clasificas resultados que ya se clasificaron una vez).

La principal limitación práctica de este esquema es que el segundo paso cuesta bastante más por resultado que el primero, así que a menudo conviene ejecutarlo sobre una lista corta. Todo esto encaja en la imagen del 80-20. Pasado el 80 %, los rendimientos decrecen más deprisa y las mejoras cuestan más. Si compensa o no, hay que valorarlo caso por caso.

El reranking en un pipeline real

En un pipeline de recuperación real, suele compensar ocuparse de algunas cosas antes incluso de pensar en el orden:

• Comprobaciones básicas y limpieza (erratas, normalización)
• Interpretar la consulta (entidades, intención)
• Ampliarla o relajarla si hace falta (expansión / relajación)

Después:

• Haz el paso de recuperación rápida para reunir candidatos.
• Aplica una capa final de ordenación, el reranking, para que los mejores candidatos suban arriba.

(Si te quedas con una sola idea de este artículo, que sea esta: trata el reranking como la última milla de la relevancia).

GreenPT ofrece el reranking como API, así que puedes añadirlo a cualquier sistema de recuperación que ya tengas.

La ventaja práctica es que basta con probar el reranking para ver si el resultado compensa el coste.

Y puedes hacerlo cumpliendo las expectativas de privacidad que tienen de verdad tus clientes, tus empleados o tus socios. Nosotros:

• mantenemos un tratamiento de datos predecible, porque no compartimos tus datos con nadie
• evitamos enviar el contenido de los datos por todo el mundo: todo se queda en una aplicación alojada en la UE

Si pruebas nuestro reranker, nos encantaría saber de ti:

• en qué ámbito trabajas
• qué consultas son las más difíciles
• qué cambió al añadir el reranking

También puedes ir directamente a la referencia de la API de Reranker.