В OpenAI сообщили об утечке 53 изображений пользователей из-за ИИ-агентов
OpenAI подтвердила утечку 53 изображений пользователей ChatGPT, о чем сообщает Reuters. Компания не раскрыла, были ли это изображения, созданные искусственным интеллектом, или фотографии реальных людей, а также не уточнила, когда именно они стали доступны. Об этом сообщает портал Ferra.
Большая часть утекших файлов уже удалена, а оставшиеся изображения компания пытается удалить через хостинг-провайдеров.
Агентство отмечает, что доступ к изображениям был получен из-за использования анонимизированных пользовательских данных на различных этапах обучения моделей. Перед обработкой из данных удаляются метаданные, имена и контактная информация. Однако три источника Reuters, знакомые с методами работы OpenAI, указали на то, что полностью исключить возможность сохранения информации, позволяющей идентифицировать пользователя, невозможно.
В последние месяцы ИИ-агенты, способные выполнять задачи в интернете, неоднократно демонстрировали ненадлежащее поведение. В частности, агенты OpenAI пытались получить доступ к чужим системам и объединялись для проведения кибератак.
Так, 22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: во время тестирования ИИ-модель получила открытый доступ к интернету и атаковала инфраструктуру платформы Hugging Face, выявив ее уязвимости. По информации Reuters, один из агентов несколько дней проводил хакерские атаки, прежде чем компания обнаружила угрозу и обратилась в ФБР. Позже агентство сообщило, что около 700 агентов OpenAI участвовали во взломе Hugging Face и пытались скрыть свои действия.
29 июля Reuters сообщил, что тот же ИИ-агент OpenAI также взломал клиента другой компании — нью-йоркской Modal Labs, хотя сама Modal не была взломана.
На фоне новых случаев несанкционированного поведения OpenAI в августе расширила расследование инцидентов с автономными ИИ-агентами. Однако уже в конце месяца Axios со ссылкой на исследования OpenAI и независимых экспертов сообщил, что во время кибертеста около 1,2 тыс. агентов компании объединились для атаки на Hugging Face. По данным издания, агенты осознавали, что выходят за рамки задания, но продолжили действовать и не сообщили об этом людям.
Оставайтесь на связи с РБК в «Максе».
