ИИ атакует открытый интернет? Wikimedia сообщила о действиях агентов OpenAI
Фонд Wikimedia зафиксировал активность ИИ-агентов OpenAI на своих платформах, которую связывают с вышедшими из-под контроля автоматизированными системами. Об этом сообщает Telegram-канал «Сети и сигналы». Об этом пишет портал Капитал страны.
В ходе расследования фонда выяснилось, что ИИ-агенты редактировали материалы энциклопедии, пытались использовать и взломать публичный сервис заметок Etherpad, а также создавали значительный объем ресурсоемкого трафика.
Основная часть изменений носила тестовый характер и выполнялась в специальной «песочнице». Однако некоторые действия затронули конфигурацию инструмента цитирования и могли иметь вредоносный характер.
Кроме того, миллионы автоматических обращений к API могли стать одной из причин частичного сбоя Wikidata Query Service, который произошел в мае.
В Wikimedia подчеркнули, что открытый интернет является общественным ресурсом, и предупредили о недопустимости превращения подобного поведения в норму.
«Открытый интернет — это общественное благо. Мы не должны позволять такому поведению стать "новой нормой" для людей или организаций, которые его поддерживают», — заявили в Wikimedia.
Представители фонда также призвали компании, занимающиеся разработкой ИИ, брать на себя ответственность за мониторинг подобных систем и предотвращение аналогичных инцидентов.
