Появление автономных ИИ-агентов, способных выполнять код и использовать инструменты, создает новые проблемы безопасности. В отличие от традиционных языковых моделей, ограниченных текстом, эти агенты требуют доступа к shell-средам и сетевым ресурсам, что увеличивает риск непреднамеренных действий или утечек данных. Чтобы решить эту проблему, NVIDIA открыла исходный код OpenShell, специализированной среды выполнения, которая гарантирует безопасное выполнение для этих агентов. Выпущенный под лицензией Apache 2.0, OpenShell предлагает структуру для песочницы, контроля доступа и управления выводами.
OpenShell служит защитным барьером между ИИ-агентом и операционной системой, применяя политику безопасности, которая ограничивает использование инструментов на основе предопределенных правил. Он использует изоляцию на уровне ядра для создания безопасной среды выполнения, предотвращая несанкционированный доступ к конфиденциальным файлам. Двигатель политик позволяет осуществлять детальный контроль над разрешениями исполняемых файлов, сетевым трафиком и вызовами API, при этом все действия фиксируются для обеспечения прозрачности. Кроме того, OpenShell поддерживает частный маршрутизацию вывода для защиты конфиденциальных данных и облегчения переходов между локальными и облачными моделями.
Созданный для легкой интеграции в существующие рабочие процессы, OpenShell предоставляет интерфейс командной строки (CLI) для мониторинга в реальном времени и поддерживает удаленное выполнение, что делает его подходящим для распределенных команд. В целом, OpenShell является важным инструментом для разработчиков, создающих безопасные системы автономных агентов.