Новая вектор атаки позволяет скрывать вредоносные команды от ИИ

Эксперты LayerX выявили атаку, использующую разницу между HTML-кодом и тем, как страница отображается в браузере. Это позволяет скрывать вредоносные команды от анализа ИИ.

Техническая реализация

Злоумышленники применяют кастомные шрифты и CSS, чтобы в коде страницы оставался один текст, а пользователю показывался другой. В итоге ассистент видит безопасный контент, тогда как человек получает опасную инструкцию.

Демонстрация атаки

В одном из примеров пользователю предлагали выполнить команду для получения бонуса в игре BioShock. При проверке через ИИ система не выявляла угрозу, поскольку анализировала «чистую» HTML-версию страницы.

Реакция компаний

Атака не требует технического взлома и основана на социальной инженерии. По данным LayerX, она затрагивала множество сервисов, включая ChatGPT, Gemini и другие. При этом только Microsoft полностью устранил уязвимость, тогда как остальные сочли риск ограниченным, сообщает anti-malware.ru.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX.