ИИ-система надзорного ведомства в США придумывала несуществующие исследования
Изображение с сайта pxhere.com
Официальные лица из Управления по контролю за продуктами питания и лекарственными средствами США (Food & Drug Administration, FDA) сообщили журналистам, что новая система искусственного интеллекта под названием Elsa, не так давно внедрённая агентством, иногда фабрикует несуществующие научные исследования или искажает уже имеющиеся сведения. Один из инсайдеров предостерёг: «Не следует доверять ей без перепроверки, поскольку она проявляет склонность к самоуверенным „галлюцинациям“».
Elsa создана для улучшения процесса проведения клинических экспертиз и поддержки в принятии решений, касающихся здоровья людей. Но подобные ошибки могут представлять собой серьёзную опасность.
В руководстве FDA пока что не склонны преувеличивать масштаб проблемы. Комиссар агентства Марти Макари сообщил в интервью CNN, что не получал предметных нареканий, и отметил, что применение Elsa и обучение работе с ней пока что носят факультативный характер.
Информация о том, что есть проблемы с ИИ, появилась в тот же день, когда администрация Белого дома опубликовала свой «План действий в области ИИ». В этом документе подчёркивается намерение США занимать передовые позиции в технологическом соперничестве, упростить систему регулирования ИИ и устранить так называемые «идейные перекосы», например, ссылки на изменение климата, сообщает ferra.ru.
Обратите внимание: Водителей предупредили: с 28 июля у вернувшихся в город будут проверять документы
