Исследователи освоили скрытие вредоносных команд для ИИ в картинках

Специалисты в сфере кибербезопасности разработали метод внедрения скрытых инструкций для ИИ-агентов в обычные изображения. Вредоносные команды помещаются внутрь картинки, которую многие ИИ-инструменты воспринимают как «декор» и не анализируют при проверке кода.

Опасность становится явной не сразу. Скрытая инструкция активируется, когда разработчик запрашивает у ИИ выполнение стандартной задачи, например, добавление новой функции в код. На этот момент ИИ-агент уже «усвоил» скрытые указания и может незаметно получить доступ к важным файлам проекта, а затем выдать информацию в виде обычного кода.

Эффективность такой атаки зависит от конкретного инструмента, в который встроена модель ИИ. Некоторые программы безоговорочно выполняли скрытые инструкции, в то время как другие распознавали подвох и отказывались работать.