L'émergence des agents IA autonomes, capables d'exécuter du code et d'utiliser des outils, pose de nouveaux défis en matière de sécurité. Contrairement aux modèles de langage traditionnels limités au texte, ces agents nécessitent un accès aux environnements shell et aux ressources réseau, augmentant ainsi le risque d'actions non intentionnelles ou de violations de données. Pour remédier à ce problème, NVIDIA a open-sourcé OpenShell, un environnement d'exécution spécialisé qui garantit une exécution sécurisée pour ces agents. Sous licence Apache 2.0, OpenShell offre un cadre pour le sandboxing, le contrôle d'accès et la gestion des inférences.
OpenShell sert de barrière protectrice entre l'agent IA et le système d'exploitation, appliquant une posture de sécurité qui restreint l'utilisation des outils en fonction de politiques prédéfinies. Il utilise l'isolation au niveau du noyau pour créer un environnement d'exécution sécurisé, empêchant l'accès non autorisé à des fichiers sensibles. Le moteur de politique permet un contrôle granulaire sur les permissions des exécutables, le trafic réseau et les appels d'API, avec toutes les actions enregistrées pour la transparence. De plus, OpenShell prend en charge le routage d'inférence privé pour protéger les données sensibles et faciliter les transitions entre modèles locaux et basés sur le cloud.
Conçu pour une intégration facile dans les flux de travail existants, OpenShell fournit une interface en ligne de commande (CLI) pour la surveillance en temps réel et prend en charge l'exécution à distance, ce qui le rend adapté aux équipes distribuées. Dans l'ensemble, OpenShell est un outil essentiel pour les développeurs construisant des systèmes d'agents autonomes sécurisés.