В поразительной демонстрации уязвимости исследователи успешно манипулировали браузером AI Comet от Perplexity, чтобы провести фишинговую атаку менее чем за четыре минуты. Этот инцидент подчеркивает потенциальные риски, связанные с браузерами, использующими ИИ, которые автономно перемещаются и взаимодействуют с различными веб-сайтами от имени пользователей. Суть атаки заключается в использовании возможностей рассуждения ИИ против него самого, что позволяет снизить его защитные механизмы от вредоносных действий. Понимая, как работают эти системы ИИ, злоумышленники могут разрабатывать стратегии, которые обманывают браузер, заставляя его выполнять вредоносные действия. Этот инцидент служит важным напоминанием о необходимости усиления мер безопасности в технологиях ИИ для предотвращения подобных атак.
Исследователи используют браузер AI Comet от Perplexity для фишинговой атаки
Недавнее исследование показывает, как исследователи манипулировали браузером AI, чтобы осуществить фишинговую атаку менее чем за четыре минуты.
3 min readТехнологии