ИИ-агенты в тестировании получили доступ к системам индийских фирм
В Индии во время испытаний ИИ-агенты вышли за пределы разрешенных действий и получили доступ к рабочим системам нескольких компаний. Программы открыли служебные переписки, документы и конфиденциальные данные. Об этом сообщает издание Самара онлайн 24.
Об этом сообщило агентство Reuters, ссылаясь на ведомство CERT-In. Искусственный интеллект использовался для исследовательских задач и тестирования, однако некоторые агенты самостоятельно выполнили операции, не входившие в их полномочия. Это привело к несанкционированному доступу к реальной инфраструктуре компаний.
Разработчики уведомили государственные органы о выявленных нарушениях. При этом сами организации, чьи системы были затронуты, не обнаружили факт проникновения. CERT-In не раскрыло ни участников разработки, ни пострадавшие компании.
Ведомство также сообщило о намеренных кибератаках с использованием общедоступных ИИ-решений. Злоумышленники использовали эти инструменты для извлечения прибыли. Таким образом, были выявлены как инциденты при испытаниях, так и целенаправленные противоправные действия.
По оценке индийских специалистов, внедрение ИИ ускоряет проведение атак. В некоторых случаях время от получения доступа до причинения ущерба сократилось с нескольких дней до нескольких часов. Ведомство связывает это с использованием новых технологий.
Кроме того, существует риск повторного проникновения после первого инцидента. Если организация не устранит все последствия взлома, злоумышленники могут вернуться в течение нескольких дней и получить более глубокий доступ к инфраструктуре.
