Ученые выявили уязвимость ИИ при поиске внеземной жизни

Искусственный интеллект может совершать серьезные ошибки при идентификации признаков внеземной жизни. Исследователи из Университета штата Мичиган доказали, что современные алгоритмы машинного обучения обманываются в 100% случаев. Результаты эксперимента опубликованы 7 июля в журнале Popular Science.

Компьютерный инженер Анкит Гупта и его коллега Кристоф Адами провели эксперимент с программой Avida, симулирующей эволюционные процессы. Нейросеть обучили на десятках тысяч цифровых организмов, чтобы она отличала самовоспроизводящиеся цепочки от остальных.

Высокая точность на этапе обучения не помогла алгоритму при столкновении с новыми примерами. Всего 150 незначительных изменений в программном коде организмов привели к тому, что ИИ начал массово принимать ложные сигналы за признаки жизни.

Авторы исследования отмечают, что проблема шире космических миссий. Ложные срабатывания могут затронуть системы распознавания лиц, беспилотные автомобили и медицинские сканеры. Ученые подчеркивают: результаты не ставят крест на технологиях, но напоминают о необходимости человеческого контроля.

Адами указал на необходимость независимого способа проверки работы алгоритма. При этом он подчеркнул, что в этом цикле обязательно должен участвовать человек.