Коксон сравнил ИИ с разумом инопланетян
Создание искусственного сверхинтеллекта можно сопоставить с появлением инопланетного вида, разум которого остается непонятным для человечества. Такое мнение выразил Джейкоб Коксон, ранее работавший в Anthropic и OpenAI, в интервью ABC News. Об этом сообщает сайт Life.ru.
Коксон отметил, что идея создания сверхинтеллекта уместна для сравнения с инопланетным разумом. Он подчеркнул, что размышления о таких возможностях, используя категории непонятного разума, вызывают страх. По его мнению, даже без конкретных сценариев перспектива появления интеллекта, превосходящего человеческий, вызывает серьезные опасения.
Исследователь недавно покинул Anthropic и всю индустрию ИИ, объяснив свое решение тем, что компании слишком быстро движутся к созданию самосовершенствующихся систем, рискуя потерять контроль над ними.
На фоне этих предупреждений Дарио Амодей, глава Anthropic, предложил замедлить разработку мощных моделей, чтобы меры безопасности успевали за технологическим прогрессом. Идею поддержали Сэм Альтман, руководитель OpenAI, и бизнесмен Илон Маск.
Коксон также разделяет опасения Эвана Хьюбингера, руководителя направления Alignment Science в Anthropic, который оценил вероятность того, что сверхинтеллект может привести к гибели человечества в ближайшие десять лет, более чем в 10%, подчеркивая, что это его личная оценка.
Тем временем SpaceX планирует в 2027 году вывести на орбиту системы ИИ на базе NVIDIA Vera Rubin NVL72, которая будет оптимизирована для космоса. По данным NVIDIA, эта система станет основой для первого поколения спутников Starmind, предназначенных для выполнения ИИ-вычислений на орбите.
