Глава института в США оценил вероятность вымирания человечества из-за ИИ
Нейт Соарес, президент американского Института исследований машинного интеллекта (MIRI), перестал откладывать средства на пенсию, опасаясь скорого уничтожения человечества искусственным интеллектом. По его мнению, вероятность такой катастрофы в ближайшие десять лет превышает 50%. Об этом сообщает Business Insider. Об этом сообщает издание Life.ru.
В интервью генеральному директору The Atlantic Николасу Томпсону исследователь признался, что не пополнял пенсионный счёт уже десять лет, но сохранил накопления, оставшиеся с его работы в Google.
Соарес считает, что главная угроза заключается в возникновении искусственного сверхинтеллекта, который превзойдёт человека по интеллектуальным способностям. Он полагает, что такая система может сформировать собственные цели, обойти ограничения разработчиков и создавать более совершенные версии себя.
В худшем сценарии сверхразумный ИИ начнёт строить инфраструктуру, функционирующую без участия людей, что приведёт к изменению окружающего мира под собственные задачи, игнорируя интересы человечества. Соарес допускает, что это может сделать планету непригодной для жизни.
Его прогноз значительно мрачнее оценок некоторых коллег. Например, Джеффри Хинтон, один из основоположников современных нейросетей, говорил о 10-процентной вероятности вымирания человечества из-за ИИ в течение десятилетия, а сотрудник Anthropic Эван Хубингер оценивал этот риск более чем в 10%.
Тем не менее, Соарес не считает катастрофу неизбежной и призывает правительства остановить обучение мощных универсальных ИИ-систем, сосредоточившись на разработках для конкретных задач, таких как поиск методов лечения рака и повышение безопасности беспилотных автомобилей.
Ранее Life.ru сообщал о предупреждении Билла Гейтса, основателя Microsoft, который считает, что в ближайший год искусственный интеллект создаст множество новых угроз в сфере кибербезопасности, связывая главную опасность с действиями злоумышленников, использующих нейросети для вымогательства и финансовых махинаций.
