Formation Innovante en Double Vue pour Améliorer les Systèmes de Recherche Suivant les Instructions

Le domaine de la recherche d'informations suivant les instructions (IF-IR) se concentre sur des systèmes capables de récupérer des documents non seulement en fonction de leur pertinence mais aussi en respectant des instructions spécifiques des utilisateurs, telles que des caractéristiques requises et des exclusions. Les modèles de récupération traditionnels privilégient souvent la pertinence sémantique, ce qui peut entraîner un manque de prise en compte des documents qui répondent aux instructions des utilisateurs. Pour remédier à ce problème, nous proposons une méthode de synthèse de données en double vue utilisant l'inversion de polarité. Cette technique consiste à présenter une requête avec un document pertinent et un exemple négatif difficile qui correspond à la requête mais ne respecte pas l'instruction. En utilisant un modèle de langage large (LLM) pour générer une instruction alternative qui modifie la pertinence de ces documents, nous créons un scénario d'entraînement où la même paire de documents est évaluée sous des instructions contrastées. Nos résultats montrent une amélioration significative de 45 % des performances sur le benchmark FollowIR avec un encodeur de 305 millions de paramètres, surpassant d'autres modèles à usage général. De plus, nous révélons que la diversité des données et la supervision basée sur les instructions sont cruciales pour améliorer la qualité de la récupération et la sensibilité aux instructions des utilisateurs.