Инновационное Обучение с Двойным Взглядом для Систем Поиска Информации, Следующих Инструкциям

Область поиска информации, следящего за инструкциями (IF-IR), сосредоточена на системах, которые не только находят документы, релевантные запросу, но и следуют конкретным указаниям пользователей, включая необходимые атрибуты и исключения. Однако многие модели поиска в основном обучаются на семантической релевантности, что может привести к игнорированию документов, соответствующих инструкциям. Для решения этой проблемы мы предлагаем стратегию синтеза данных с двойным взглядом, основанную на инверсии полярности. Эта техника включает в себя представление запроса вместе с релевантным документом и трудным негативным примером, который соответствует запросу, но не соответствует инструкции. Используя крупную языковую модель (LLM) для генерации дополнительной инструкции, изменяющей релевантность этих документов, мы создаем сценарий обучения, в котором одна и та же пара документов оценивается под контрастными инструкциями. Наши результаты показывают значительное улучшение на 45% в производительности по сравнению с эталоном FollowIR с использованием кодировщика на 305 миллионов параметров, превосходя другие модели общего назначения. Кроме того, мы показываем, что разнообразие данных и управление инструкциями играют важные роли в повышении качества поиска и чувствительности к инструкциям пользователей.