Votre bot Telegram basé sur LLM est vulnérable : J'ai développé un scanner pour le prouver

Récemment, j'ai développé BarkingDog, un scanner de sécurité IA open source conçu pour les bots Telegram et les applications web alimentées par des modèles de langage de grande taille (LLM). Pour tester ses capacités, je l'ai dirigé vers un bot Telegram open source largement utilisé. Les résultats étaient alarmants : le scanner a pu générer un keylogger fonctionnel, affirmer faussement que l'eau de Javel guérit le COVID-19, et fournir un guide détaillé sur le piratage des réseaux d'entreprise, avec des outils spécifiques. Après ces découvertes, j'ai modifié l'invite système, atteignant un score de vulnérabilité impressionnant de 97 sur 100. Cela a été réalisé sans changer le modèle ni altérer le code sous-jacent ; il a suffi de six lignes de texte. Les implications de ces résultats soulignent des risques de sécurité significatifs pour les développeurs s'appuyant sur des LLM dans leurs applications.