El surgimiento de agentes de IA autónomos, capaces de ejecutar código y utilizar herramientas, plantea nuevos desafíos de seguridad. A diferencia de los modelos de lenguaje tradicionales que se limitan al texto, estos agentes requieren acceso a entornos de shell y recursos de red, lo que aumenta el riesgo de acciones no intencionadas o violaciones de datos. Para abordar este problema, NVIDIA ha open-sourcido OpenShell, un entorno de ejecución especializado que garantiza una ejecución segura para estos agentes. Lanzado bajo la licencia Apache 2.0, OpenShell ofrece un marco para el sandboxing, control de acceso y gestión de inferencias.
OpenShell actúa como una barrera protectora entre el agente de IA y el sistema operativo, aplicando una postura de seguridad que restringe el uso de herramientas según políticas predefinidas. Utiliza aislamiento a nivel de núcleo para crear un entorno de ejecución seguro, evitando el acceso no autorizado a archivos sensibles. El motor de políticas permite un control granular sobre los permisos de ejecutables, el tráfico de red y las llamadas a API, con todas las acciones registradas para mayor transparencia. Además, OpenShell incluye enrutamiento de inferencias privadas para proteger datos sensibles y facilitar transiciones entre modelos locales y basados en la nube.
Diseñado para una fácil integración en flujos de trabajo existentes, OpenShell proporciona una interfaz de línea de comandos (CLI) para monitoreo en tiempo real y admite ejecución remota, lo que lo hace adecuado para equipos distribuidos. En general, OpenShell es una herramienta vital para los desarrolladores que construyen sistemas de agentes autónomos seguros.