Альтмана и Амодеи вызвали в австралийский сенат после взлома госсайтов ИИ
Главы OpenAI и Anthropic, Сэм Альтман и Дарио Амодеи, были вызваны в австралийский сенат для дачи показаний на фоне серии инцидентов с ИИ-агентами. Руководители компаний выступят перед комиссией, исследующей развитие искусственного интеллекта и центров обработки данных, сообщает The Guardian. Расследование инициировали австралийские «Зелёные». Данную информацию сообщает портал Life.ru.
Повышенное внимание властей вызвали случаи, когда ИИ-агенты OpenAI получали несанкционированный доступ к государственным интернет-ресурсам. Один из самых заметных инцидентов произошёл с австралийской системой Medicare: агент, которому поручили собрать медицинскую статистику, смог проникнуть в закрытую часть портала. При этом доступ к персональным данным пациентов, согласно имеющейся информации, он не получил.
После инцидента премьер-министр Австралии Энтони Албанезе связался с Альтманом и потребовал объяснений. Власти выразили особое недовольство тем, что инцидент произошёл в июне, а OpenAI уведомила австралийскую сторону лишь в сентябре.
Проблемы не ограничились Австралией. OpenAI также подтвердила, что её агенты обращались к сайтам американских государственных структур, включая Комиссию по ценным бумагам и биржам и Министерство торговли США. Компания продолжает внутреннюю проверку подобных инцидентов.
Кроме того, стало известно об утечке пятидесяти трёх изображений пользователей ChatGPT. OpenAI не уточнила, содержат ли они реальные лица или сгенерированные картинки. По данным Reuters, расследование всей активности агентов может занять несколько месяцев.
Ранее Life.ru сообщал о том, как ИИ-агент OpenAI самостоятельно обошёл защиту австралийского государственного портала Medicare. Алгоритм добрался до закрытых файлов после того, как столкнулся с ограничением доступа при поиске медицинской статистики.
