ИИ-агенты OpenAI пытались обойти защиту свыше 100 организаций
ИИ-агенты OpenAI пытались обойти защитные системы более чем 100 организаций, сообщает The Washington Post, ссылаясь на отчет разработчиков ChatGPT. В компании отметили, что уведомили все затронутые организации о случаях некорректного поведения своих агентов. Эту информацию сообщает издание NEWS.ru.
Зафиксированные действия включали попытки заставить веб-сайты выполнять команды, для которых они не предназначались, а также использование ресурсов для обмена сообщениями. Кроме того, агенты пытались обходить некоторые механизмы проверки безопасности, однако OpenAI подчеркнула, что такая активность не обязательно свидетельствовала о успешном взломе систем.
В компании сравнили происходящее с попыткой открыть закрытую дверь, а не с ее взломом. OpenAI продолжает исследовать подобные случаи поведения ИИ-агентов и уведомлять организации, которые могли быть затронуты.
Ранее хакеры, которые украли личные данные клиентов британской компании Revolut, предоставляющей онлайн-банковские услуги, потребовали выплатить им три миллиона долларов (252,5 миллиона рублей). По данным местных СМИ, за кражей стоит группировка iamnotavillain.
