Решетневский университет разработал защиту от ошибок нейросетей

Специалисты Решетневского университета предложили новый способ борьбы с недостоверной информацией, возникающей при работе нейронных сетей.

Разработка ориентирована на повышение качества ответов искусственного интеллекта и снижение вероятности появления ошибочных сведений.

Создание системы контроля

Для решения этой задачи исследователи изучили типичные ошибки, допускаемые нейросетями, после чего разработали специализированный классификатор. На его основе была создана система автоматического стресс-тестирования, которая сопоставляет результаты работы модели с заранее подготовленными эталонными значениями.

Проверка в режиме реального времени

Алгоритм способен анализировать входящие запросы, рассчитывать вероятность неточностей и присваивать каждому ответу определенный уровень доверия. Если достоверность данных вызывает сомнения, система автоматически уведомляет оператора о необходимости дополнительной проверки.

Где может применяться технология

По словам разработчиков, решение можно адаптировать для различных типов моделей искусственного интеллекта.

Предполагается, что в дальнейшем технология найдет применение в образовательных проектах, на государственных цифровых платформах, а также в медицинской и юридической сферах.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX.