Étude des biais dans les grands modèles de langage pour la manipulation de la recherche IA

Les grands modèles de langage (LLM) sont devenus essentiels dans diverses applications commerciales, en particulier pour améliorer les fonctionnalités de recherche sur le web. Ces modèles sont utilisés dans les systèmes d'aperçu LLM, qui analysent les résultats de recherche pour identifier les sources les plus pertinentes et formuler des réponses aux questions des utilisateurs. Des recherches montrent que les LLM présentent divers biais, pouvant influencer à la fois la sélection des sources et la génération des réponses dans ces systèmes. Cet article se concentre principalement sur la phase de sélection, explorant comment les biais peuvent être exploités pour manipuler les résultats dans les systèmes d'aperçu LLM. Pour cela, nous avons développé un modèle de langage compact formé par apprentissage par renforcement pour modifier les extraits de recherche, augmentant ainsi leur attrait pour les aperçus LLM. Notre conception expérimentale limite le modèle à n'opérer que sur des extraits tout en restreignant les tactiques de manipulation de récompenses, reflétant les contraintes pratiques rencontrées dans les contextes de recherche sur le web. Les résultats révèlent l'existence de biais dans les systèmes d'aperçu LLM, et l'apprentissage par renforcement peut souvent améliorer le contenu des extraits pour influencer les résultats. De plus, nous avons découvert que les sélections sont davantage influencées par des avantages comparatifs entre les sources plutôt que par des mérites absolus. Nous évaluons également les implications de sécurité de la manipulation des aperçus LLM, soulignant que le poisonnement de contexte peut entraîner des résultats trompeurs ou nuisibles.