Лауреаты медали Филдса предупредили о рисках ИИ для математики
Двадцать пять известных математиков подписали открытое письмо, в котором выразили обеспокоенность угрозами для интеллектуального труда, исходящими от лабораторий искусственного интеллекта. Как сообщает TechCrunch, эксперты тревожатся о гонке компаний за решением известных математических задач. Все авторы письма являются обладателями медали Филдса — одной из самых высоких наград в области математики. Об этом рассказывает Science XXI.
Поводом для обсуждения стал инцидент с профессором Нью-Йоркского университета Тристаном Бакмастером, который обвинил OpenAI в том, что компания не указала соавтора, работающего в Anthropic, при решении важной математической задачи. Бакмастер также предположил, что OpenAI могла использовать результаты работы с Codex для создания собственного доказательства всего за несколько дней интенсивных вычислений.
В четверг OpenAI отказалась от спонсорства математического мероприятия в Калифорнийском технологическом институте после критики со стороны исследователей этого университета. При этом доказательство, представленное OpenAI, пока не прошло проверку.
Авторы письма считают, что искусственный интеллект может помочь в решении сложных математических задач, однако такие результаты должны быть понятны специалистам и доступны для обсуждения. Они отметили, что поспешные публикации часто не оставляют времени на детальное описание методов, выделение новых идей и указание вклада предшественников.
Математики также выразили опасения по поводу авторства и плагиата. Они подчеркнули, что без участия ученых, которые развивают и интегрируют новые идеи в общую систему знаний, результаты ИИ не смогут полноценно войти в математическую традицию. Специалисты опасаются, что крупные лаборатории могут потратить миллионы долларов, чтобы опередить первоначальных авторов и первыми представить доказательство.
Это обращение продолжает Лейденскую декларацию, опубликованную рабочей группой математиков в июне, в которой также рассматривалось влияние языковых моделей на профессию и давались рекомендации для ученых, организаций и законодателей. Авторы нынешнего письма акцентировали внимание на том, что главная ценность математики заключается не только в доказательствах и признании авторства, но и в развитии учеников, появлении новых вопросов и передаче знаний.
