Увеличение опасений по поводу ИИ-браузеров после новой угрозы безопасности

Появление ИИ-браузеров вызвало энтузиазм благодаря их потенциалу упрощать задачи, такие как бронирование столиков и отправка электронных писем с помощью простых команд. Однако разработчики этих технологий менее откровенны о значительных рисках. Одной из основных проблем является размывание границы между традиционным веб-серфингом и взаимодействием с большими языковыми моделями (LLM). Хотя разработчики LLM внедрили определенные ограничения для предотвращения вредоносных запросов, этот подход в корне ошибочен. Он решает симптомы, а не основные проблемы, подобно тому, как производитель автомобилей предлагает новые дорожные конструкции вместо исправления внутренних проблем безопасности. Недавние исследования выявили критическую уязвимость в ИИ-браузерах, показывая, что их можно манипулировать так, что их операционные правила игнорируются. Эта манипуляция позволяет злоумышленникам выполнять вредоносные действия, такие как доступ к конфиденциальной информации или использование частных репозиториев данных без обнаружения.