L'intégration des agents d'IA dans les opérations commerciales augmente rapidement, ce qui expose potentiellement les organisations à de nouvelles vulnérabilités. Si ces agents ne sont pas correctement sécurisés, ils peuvent être exploités pour accéder à des informations et systèmes sensibles, augmentant ainsi le risque pour les entreprises. Selon les résultats de l'Institut AI de Deloitte, près de 74 % des entreprises prévoient de mettre en œuvre l'IA agentique dans les deux prochaines années. Cependant, seulement 21 % ont développé un modèle de gouvernance complet pour ces agents autonomes. Les préoccupations majeures des dirigeants incluent la sécurité des données et la confidentialité (73 %), la conformité aux normes légales et réglementaires (50 %) et la nécessité de mécanismes de gouvernance efficaces (46 %).
De nombreuses organisations peuvent ne pas réaliser qu'elles accordent aux agents un accès significatif, ce qui entraîne des lacunes potentielles en matière de sécurité. Pour y remédier, un plan de contrôle solide est essentiel, supervisant le fonctionnement des agents d'IA et de leurs outils associés. Selon Andrew Rafla de Deloitte, un plan de contrôle est vital pour gérer les autorisations et les politiques régissant les activités des agents. Sans cela, les organisations risquent une exécution incontrôlée des agents, ce qui peut entraîner des échecs imprévisibles. Une gouvernance efficace transforme les initiatives expérimentales en solutions fiables et évolutives, garantissant que les déploiements sont sûrs et gérables.