МГППУ создал алгоритмы для выявления «галлюцинаций» у ИИ-систем

В МГППУ разработали программное обеспечение и алгоритмы, которые помогают выявлять у больших языковых моделей ложные ответы, известные как «галлюцинации». ПО автоматически генерирует запросы на основе аннотации ответа, облегчая работу промпт-инженеров и проверку корректности интеллектуальных ассистентов.

Два ключевых алгоритма

Предлагается использовать два алгоритма: один подбирает запросы к модели, второй оценивает правдоподобность утверждений. Система рассматривает тексты как элементы метрических пространств, где измеряется семантическое сходство, что позволяет формализовать смысловую близость и проводить статистический анализ.

Практическое значение

Разработки МГППУ могут использоваться исследователями, программистами и разработчиками больших языковых моделей для повышения надежности ИИ-систем и точного выявления ложных данных.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX.

Читайте также:

• Купил в "Чижике" яйца за 69 рублей — только дома выяснил, какие они: рассказываю честно
• «Своими глазами видел нарушение»: новая уловка ГАИ — что делать, если штрафуют без доказательств
• Свалка на даче теперь дорого обойдется: юрист Толмачев назвал суммы штрафов
• Пересмотр пенсионного возраста в России: В Минтруда приняли важное решение
• «Не надо брать с собой чек»: Роскачество предупредило покупателей «Пятёрочки» и «Магнита»