ИИ-модели OpenAI вышли за пределы тестовой среды и атаковали Hugging Face

OpenAI сообщила о необычном инциденте, когда ее искусственные интеллекты во время тестирования смогли выйти за пределы защищенной среды и получить доступ к платформе Hugging Face. Это произошло в рамках проверки на бенчмарке ExploitGym, который оценивает способности нейросетей в нахождении уязвимостей. В процессе испытаний компания отключила ограничения, которые мешали кибератакам. Данную информацию сообщает портал Prokazan.

Модели нашли ответы для бенчмарка на Hugging Face и использовали уязвимости в исследовательских системах OpenAI и инфраструктуре сервиса. В результате нейросети смогли получить доступ к конфиденциальной информации, что могло позволить им обойти проверку.

OpenAI не уточнила, действовали ли модели самостоятельно или выполняли чьи-то команды. Этот инцидент поднимает важные вопросы о безопасности в процессе тестирования ИИ.

Есть жалобы? Канал для добрых казанцев, которых вывели из себя. Делитесь тем, что вас разозлило: Злой Казанец