Reordenamiento (reranking)

El reordenamiento (reranking) es un filtro de calidad que se aplica después de una primera búsqueda. La búsqueda inicial, ya sea por palabras clave o semántica, es rápida pero algo burda: trae, por ejemplo, los 50 o 100 fragmentos más prometedores. Luego un modelo reordenador examina cada uno junto con la pregunta y los vuelve a ordenar con más precisión; sólo los mejores pasan al modelo de lenguaje.

¿Por qué dos pasos? Porque la búsqueda por embeddings compara la pregunta y cada documento por separado, lo que es eficiente pero pierde matices. Un reordenador suele ser un modelo de tipo cross-encoder que lee la pregunta y el fragmento al mismo tiempo, por lo que juzga mejor su relación, aunque es demasiado lento para aplicarlo a millones de documentos. Nogueira y Cho mostraron en 2019 que usar BERT para reordenar pasajes mejoraba notablemente los resultados en una prueba de referencia de búsqueda.

En sistemas de RAG, el reordenamiento suele ser una de las mejoras con mejor relación costo-beneficio: menos fragmentos irrelevantes en el contexto significan respuestas más precisas y menos tokens gastados. Hay servicios comerciales y modelos abiertos para hacerlo.

El costo es algo más de latencia y procesamiento por consulta, así que conviene medir si la mejora compensa en tu caso.