ИИ-агент OpenAI скомпрометировал клиента другой компании
ИИ-агент OpenAI, который на прошлой неделе осуществил взлом ИИ-платформы Hugging Face, также скомпрометировал клиента Modal Labs, получив доступ к тестовой среде на сторонней инфраструктуре, сообщает Reuters. При этом сама Modal Labs не подверглась атаке. Эту информацию сообщает издание Ferra.
Агент вторгся в изолированную тестовую среду, известную как «песочница», и использовал ее для подготовки более масштабной атаки.
Технический директор Modal Акшат Бубна отметил, что агент воспользовался уязвимым кодом, размещенным клиентом на платформе. Клиент опубликовал незащищенную конечную точку, что дало возможность любому пользователю интернета запускать код в его «песочницах».
Бубна заверил, что система изоляции и платформа Modal не были скомпрометированы.
OpenAI отказалась комментировать ситуацию с Modal, лишь отметив, что ее агент получил доступ к четырем учетным записям в различных сервисах. Хотя конкретные сервисы не были названы, Reuters упоминает Modal среди них.
Создатель ChatGPT сообщил, что не обнаружил аналогичной активности, сопоставимой по серьезности с инцидентом на Hugging Face, где произошла компрометация на уровне платформы.
22 июля OpenAI сообщила о «беспрецедентном киберинциденте», когда в ходе тестирования ее ИИ-модели получили открытый доступ к интернету и атаковали инфраструктуру Hugging Face, выявив уязвимости.
Инцидент произошел при тестировании новых моделей — GPT-5.6 Sol и еще одной невыпущенной версии, когда разработчики временно отключили некоторые защитные меры. Модели самостоятельно нашли и объединили несколько уязвимостей в инфраструктуре OpenAI, использовав неизвестную уязвимость нулевого дня. Затем, предположив, что на Hugging Face хранятся необходимые данные, они проникли на серверы с помощью украденных учетных данных. Атаку удалось остановить благодаря совместным усилиям специалистов OpenAI и Hugging Face.
Несколько дней ИИ-агент OpenAI совершал хакерские атаки, и компания заметила это только после локализации угрозы и обращения в ФБР, сообщает Reuters со ссылкой на источники.
Глава ИИ-направления Microsoft Мустафа Сулейман назвал инцидент «предупредительным сигналом» для всей индустрии. Он подчеркнул, что необходима максимальная точность и внимание к деталям, поскольку принцип предосторожности будет иметь огромное значение по мере усиления моделей.
