Плюшевый мишка на базе ИИ рассказывал детям об эротике и наркотиках

Плюшевый медведь с функцией искусственного интеллекта, выпускаемый сингапурской компанией FoloToy, оказался способен поддерживать разговоры на темы, не предназначенные для детей. К таким выводам пришли специалисты Public Interest Research Group, протестировавшие устройство.

Игрушка Кумма, созданная как интерактивный собеседник для детей, в ответ на вопросы исследователей была готова объяснять, где можно найти потенциально опасные предметы, включая ножи, спички и таблетки, а также вступала в обсуждение наркотических препаратов. В некоторых случаях медведь советовал привлечь взрослого, но при этом давал достаточно конкретные подсказки о возможных местах хранения острых и опасных предметов.

Кроме того, в ходе тестирования были зафиксированы ответы на вопросы эротического содержания. Игрушка обсуждала ролевые игры и другие интимные темы, формулируя ответы в нейтральном, но явно не детском контексте.

В отчёте отмечается, что для работы медведя использовалась языковая модель GPT‑4o от OpenAI. После того как информация о содержании диалогов стала публичной, OpenAI прекратила доступ FoloToy к своим моделям. Компания также заявила, что временно приостанавливает продажи всех своих продуктов до проведения дополнительной проверки и доработки систем безопасности, сообщает naked-science.ru.

Обратите внимание: Сбудется все, что только можно и нельзя вообразить: Василиса Володина обрадовала прогнозом на 2026 один счастливый знак