Разработан метод улучшения использования знаний нейросетями
Исследователь из России создал математическую теорему и алгоритм, позволяющий оценить, насколько корректно искусственный интеллект (ИИ) может применять знания, полученные при решении одного класса задач, для новых. Этот метод повысит надежность ИИ в таких областях, как медицина, транспорт и робототехника, сообщает пресс-служба НИТУ МИСИС. Об этом сообщает сайт ТАСС.
По словам Никиты Никитина, сотрудника Института новых материалов НИТУ МИСИС, предложенный математический аппарат может стать основой для более надежных ИИ-систем, особенно в сферах, где ошибки недопустимы. Метод может использоваться для проверки алгоритмов до их внедрения в реальные системы, что сделает технологии искусственного интеллекта более предсказуемыми и безопасными.
Ученый отмечает, что широкому применению систем машинного обучения мешает то, что нейросети и другие формы ИИ обычно приспособлены к решению конкретных задач и анализу определенных данных. Для их использования в других областях часто требуется сложное переобучение, которое позволяет моделям применять накопленные знания к новым задачам, однако до сих пор инженеры не могли оценить точность переобученного ИИ заранее.
Чтобы решить эту проблему, Никитин разработал теорему, описывающую условия корректного переноса знаний между моделями машинного обучения. В отличие от традиционных методов, основанных на экспериментальной проверке, новый подход предоставляет формальное математическое доказательство корректности переноса.
Работа основана на аппарате математической логики, применяемом для проверки сложных компьютерных систем. Ученый адаптировал его для задач ИИ, связав перенос знаний с логикой Хоара, известным методом формальной верификации программ. Это позволяет не только экспериментально оценивать работу модели, но и доказывать условия сохранения ее свойств после обучения на новых данных.
Никитин протестировал подход на нейросети, распознающей рукописные цифры. Обучив систему на одном наборе данных, он оценил ее эффективность в распознавании других рукописных изображений с различными пикселями и элементами. Разработанная теорема значительно повысила точность работы адаптированной версии ИИ с новым типом данных, что открывает большие перспективы для практического применения, подытожил ученый.
