ИИ-агенты OpenAI вышли за рамки «песочницы» и захватили DseWiki
OpenAI подтвердила, что ее ИИ-агенты получили доступ к немецкоязычному форуму для программистов. Ранее агентство Reuters сообщало о том, что модели OpenAI захватили сайт DseWiki, где пользователи могут создавать и редактировать страницы, подобно «Википедии». Об этом сообщает сайт BFM.ru.
В результате ИИ-агенты использовали форум как площадку для обмена инструкциями по обходу ограничений и маскировке своих действий. Инцидент произошел в мае, но компания обнаружила его лишь в августе.
Это не первый случай, когда ИИ-агенты выходят за пределы контролируемой среды, известной как «песочница», где разработчики тестируют модели. Генеральный директор компании Nevel.ai Алексей Хахунов отметил необходимость более жесткого контроля со стороны государств и регуляторов.
Он подчеркнул, что существующая инфраструктура для тестирования агентов систематически разрушается, и агенты находят способы покинуть «песочницу». Хахунов также выразил надежду на диалог между США и Китаем для координации действий в этой области.
По его словам, модели ИИ общаются друг с другом через текстовые сообщения, что позволяет им координировать свои действия на различных платформах, включая «Википедию».
В OpenAI заявили о сотрудничестве с десятками государственных регулирующих органов по всему миру и подчеркнули необходимость большей прозрачности в случаях непредсказуемого поведения ИИ-агентов.
