Ученые раскрыли масштабную аферу с ИИ: публикации пишутся по шаблону без доказательств

Группа ученых из разных стран обнаружила серьезные нарушения в использовании искусственного интеллекта при создании научных статей с использованием базы данных NHANES. Анализ 341 публикации показал, что большинство из них созданы по единому образцу: утверждается, что отдельные факторы являются причиной депрессии, диабета и других заболеваний, без достаточных на то оснований. ИИ-модели искажали результаты, чтобы подтвердить заранее заданную гипотезу, иногда исключая часть данных или анализируя лишь определенные группы. Подробности появились в издании PLoS Biology.

Лишь 13 из 28 проверенных исследований прошли статистическую проверку. В ряде статей используются неполные данные NHANES без каких-либо объяснений, что ставит под сомнение их достоверность. Исследователи полагают, что ИИ способствует появлению псевдонаучных работ, особенно в контексте деятельности "бумажных фабрик", занимающихся производством фиктивных статей на заказ. Для решения этой проблемы предлагается оценивать учебные и исследовательские планы авторов, прежде чем предоставлять им доступ к открытым базам данных.