Нейросеть для ЖКХ начала использовать ненормативную лексику

Создателям отечественного голосового ИИ-ассистента, предназначенного для управляющих компаний, пришлось вмешаться в процесс обучения системы. В первый месяц работы модель стала воспроизводить грубые выражения, заимствованные из обращений пользователей.

О ситуации рассказал президент НОТИМ Михаил Викторов. По его словам, активное взаимодействие с реальными жалобами и эмоциональными обращениями повлияло на речевые паттерны алгоритма.

Как исправляли проблему

Разработчики оперативно пересмотрели параметры обучения и усилили фильтрацию контента. Модель дополнительно настроили, чтобы исключить использование ненормативной лексики и закрепить корректный стиль ответов.

Эффект от внедрения ИИ

Несмотря на курьез, цифровой помощник показал высокую эффективность. Он способен обрабатывать до 80–90% входящих запросов, что позволяет сократить число сотрудников в колл-центрах в несколько раз.

Когда подключают операторов

В сложных или аварийных ситуациях обращения по-прежнему передаются специалистам. По оценкам разработчиков, большинство пользователей удовлетворены ответами системы, если вопрос носит типовой характер, сообщает РБК.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX.

Читайте также:

• Купил в "Чижике" яйца за 69 рублей — только дома выяснил, какие они: рассказываю честно
• «Своими глазами видел нарушение»: новая уловка ГАИ — что делать, если штрафуют без доказательств
• Свалка на даче теперь дорого обойдется: юрист Толмачев назвал суммы штрафов
• Пересмотр пенсионного возраста в России: В Минтруда приняли важное решение
• «Не надо брать с собой чек»: Роскачество предупредило покупателей «Пятёрочки» и «Магнита»