ResRank: Un enfoque unificado para la recuperación y el reranking listwise

Los avances recientes en modelos de lenguaje de gran tamaño (LLM) han posicionado el reranking listwise como un método líder para mejorar el rendimiento del ranking en sistemas de recuperación de información. Sin embargo, los enfoques tradicionales enfrentan obstáculos significativos, especialmente el fenómeno de 'perderse en el medio', que disminuye la precisión del ranking a medida que aumenta el tamaño de las entradas, y la latencia excesiva asociada con secuencias más largas, complicando las aplicaciones en el mundo real. ResRank ofrece una solución al integrar la recuperación y el reranking en un marco cohesivo. Inspirándose en LLM multimodales, ResRank comprime pasajes candidatos en embeddings compactos utilizando un Encoder-LLM. Estos embeddings se procesan junto con la consulta por un Reranker-LLM para un ranking listwise efectivo. Para cerrar la brecha entre las representaciones comprimidas y el proceso de ranking, se implementa una conexión residual que fusiona las salidas del codificador con los estados contextuales del reranker. Además, el marco reemplaza la decodificación autorregresiva tradicional con un método de puntuación basado en similitud coseno simplificado, eliminando así los retrasos de generación. ResRank emplea un enfoque de entrenamiento conjunto en dos etapas y multitarea, alineando los objetivos de aprendizaje de la recuperación y el reranking mientras simplifica el proceso de entrenamiento. Evaluaciones exhaustivas en TREC Deep Learning y varios conjuntos de datos BEIR indican que ResRank no solo iguala, sino que a menudo supera los métodos existentes, logrando un equilibrio superior entre la eficacia del ranking y la eficiencia operativa.