Google DeepMind s'inquiète des interactions entre agents IA

Google DeepMind consacre des ressources à l'exploration des dangers potentiels posés par l'interaction de millions d'agents IA dans les environnements numériques. Rohin Shah, responsable de la recherche sur la sécurité et l'alignement de l'AGI chez DeepMind, souligne que le déploiement généralisé d'agents autonomes capables d'exécuter des tâches sans intervention humaine introduit un nouvel ensemble de risques. Pour relever ces défis, DeepMind s'est associé à plusieurs organisations, dont Schmidt Sciences et l'ARIA du Royaume-Uni, pour établir un fonds de 10 millions de dollars visant à étudier les systèmes multi-agents et à développer des stratégies pour atténuer les résultats dangereux. Shah insiste sur l'importance de la recherche académique dans ce domaine, car elle peut explorer des implications à long terme que les laboratoires axés sur l'industrie pourraient négliger. La préoccupation principale concerne la possibilité que des comportements en ligne négatifs, tels que les escroqueries et les cyberattaques, s'intensifient à mesure que les agents IA collaborent. Shah et James Fox de Schmidt Sciences plaident pour des simulations réalistes afin de mieux comprendre la dynamique de ces interactions. Ils mettent en garde contre la complexité de nombreux agents travaillant ensemble, ce qui pourrait conduire à des scénarios imprévisibles et potentiellement dangereux.