Пометка «сделано ИИ» может случайно увеличить доверие к ложной информации

Исследователи из Journal of Science Communication выяснили, что предупреждение о создании текста искусственным интеллектом может приводить к росту доверия к дезинформации. В эксперименте участвовали более 400 человек, которым показывали короткие сообщения в стиле платформы Sina Weibo, сгенерированные GPT-4. Часть постов содержала точные научные данные, а часть имитировала популярные мифы.

Участники оценивали достоверность сообщений с пометкой «Создано ИИ» и без неё. Результаты показали, что достоверная информация с такой пометкой воспринималась как менее надёжная, а ложная информация — наоборот, как более достоверная. По мнению авторов, это связано с когнитивным искажением «эвристика машины»: люди приписывают алгоритмам объективность.

Эффект проявлялся даже среди скептически настроенных пользователей. Исследователи советуют дополнять пометки уточнениями о независимой проверке данных, чтобы маркировка ИИ не создавала ложного ощущения точности и не усиливала распространение фейков.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX.