Иванов объяснил, как нейросети затрудняют подготовку экспериментов
Ограничения, накладываемые нейросетями на информацию о химических экспериментах, создают сложности для специалистов, занимающихся подготовкой научных опытов. Искусственный интеллект иногда отказывается описывать даже безопасные реакции, ссылаясь на их потенциальную опасность, сообщил ведущий инженер кафедры редких металлов и наноматериалов Физико-технологического института Уральского федерального университета (УрФУ) Александр Иванов. Об этом сообщает ТАСС.
По словам эксперта, нейросети активно используются для написания сценариев и подбора экспериментов, однако современные модели часто отказываются предоставлять описания опытов, утверждая, что это опасно и должно выполняться подготовленными людьми. Это создает дополнительные трудности в профессиональной деятельности.
При подготовке научно-популярных программ нейросети могут отказываться предлагать химические эксперименты, ссылаясь на их потенциальную опасность. Иванов отметил, что год назад нейросети позволяли генерировать множество химических реакций, даже тех, которые не существуют, но сейчас они сильно зацензурированы и отказываются от многих предложений, даже если они безопасны.
Он также подчеркнул, что специалисты могут выявлять ошибки в ответах искусственного интеллекта и проверять достоверность информации. Однако пользователи без необходимых знаний могут не распознать недостоверные сведения. По мнению Иванова, полностью исключить риск получения рекомендаций от нейросетей, которые могут привести к травмам, невозможно.
