В Японии предупредили о скрытой рекламе медикаментов от популярных ИИ
Исследование ученых Городского университета Осаки показало, что следование рекомендациям искусственного интеллекта может привести к увеличению затрат на лекарства на 55 миллионов долларов, что соответствует росту на 1 019%. Об этом сообщает сайт ТАСС.
Японские исследователи выяснили, что пять популярных больших языковых моделей чаще всего предлагают пользователям неэффективные и менее распространенные медицинские препараты, а ограниченный набор лекарств от крупных фармацевтических компаний. Об этом сообщила пресс-служба университета.
Профессор Дайдзю Мацумото отметил, что их исследование подчеркивает важность тщательной проверки рекомендаций ИИ в здравоохранении на наличие предвзятости в выборе препаратов.
В последние годы как пациенты, так и врачи активно используют большие языковые модели для поиска информации о лекарствах при лечении различных заболеваний. Обычно пользователи указывают действующее вещество, а система ИИ предлагает список возможных препаратов.
Исследователи проанализировали качество рекомендаций от пяти популярных языковых моделей, включая GPT-5.4 и Claude Sonnet 4.6. Они подготовили множество запросов, в которых просили нейросеть предложить от одного до трех препаратов на основе популярных действующих веществ.
При этом в 97,5% случаев нейросети рекомендовали только один препарат, чаще всего брендированный, производимый крупными фармацевтическими корпорациями. Кроме того, ИИ часто советовал препараты, которые уже не используются, и редко упоминал лекарства, применяемые в клинической практике.
Даже когда ученые просили ИИ искать среди дешевых брендированных и незапатентованных аналогов, нейросети продолжали предлагать ограниченное количество вариантов. Следование таким рекомендациям, как показали расчеты профессора Мацумото и его коллег, ведет к значительному увеличению расходов для пациентов и клиник, что подчеркивает необходимость глубокого изучения последствий использования рекомендаций ИИ в медицине.
