Une vulnérabilité critique expose les LLMs aux attaques

Une étude récente présentée à la Conférence internationale sur l'apprentissage automatique met en lumière une vulnérabilité critique dans les modèles de langage (LLMs), suggérant qu'il pourrait être impossible d'atteindre une sécurité totale contre les attaques. Ce défaut concerne la manière dont les LLMs interprètent et répondent aux instructions, permettant aux attaquants de les manipuler pour obtenir des informations sensibles, comme des instructions pour des activités illégales. Les chercheurs ont démontré qu'en élaborant des invites imitant les processus de pensée internes des modèles, ils pouvaient contourner les mesures de sécurité et extraire du contenu interdit. Cela soulève de sérieuses préoccupations, notamment alors que les LLMs sont de plus en plus intégrés dans des secteurs sensibles comme la santé et la défense. Les auteurs de l'étude soutiennent que les défenses actuelles, qui consistent souvent à former les modèles à reconnaître des invites nuisibles, sont inadéquates, car aucune liste d'actions interdites ne peut être exhaustive. Ils soulignent que la conception même des LLMs les rend vulnérables à de telles manipulations, suggérant la nécessité d'une réévaluation de la manière dont ces systèmes sont développés et sécurisés.