ИИ может вызвать ядерную тревогу через ложные сигналы и человеческие решения
Искусственный интеллект не способен самостоятельно запустить ядерное оружие, но может вызвать ложную тревогу, что приведет к цепочке катастрофических решений. Участники обсуждения связали это с фильмом «Военные игры» (WarGames) 1983 года, где компьютер чуть не спровоцировал ядерный конфликт. Об этом сообщает сайт Science XXI.
Брайан Барретт отметил, что опасность заключается не в прямом управлении оружием, а в том, что система может заставить США поверить в атаку советских ядерных сил. По его мнению, современные защитные меры и спутниковые технологии должны помогать проверять подобные сигналы. Однако искусственный интеллект может инициировать тревожное сообщение, после чего события могут развиваться по опасному сценарию.
Участники разговора разделили потенциальные угрозы на несколько категорий. Зои Шиффер пояснила, что исследователи ИИ обычно выделяют три основных сценария рисков, добавляя более отдаленные варианты, включая использование ИИ в роботах, которые могут взаимодействовать с физическим миром.
Брайан Барретт предложил учитывать ситуации, когда действия человека направляются искусственным интеллектом. Он отметил, что система может помочь создать биологическое оружие или взломать инфраструктуру, но это не обязательно подразумевает полную автономию.
Зои Шиффер считает реалистичным риск, когда человек получает от ИИ информацию о создании биологического оружия и использует её. Она подчеркнула, что в мире уже есть люди, готовые совершать опасные поступки, вдохновляясь информацией из интернета. Полностью автономное создание и применение такого оружия она назвала маловероятным сценарием.
Обсуждение прошло в формате разговора Лии Файгер, Зои Шиффер и Брайана Барретта, опубликованного Wired. Ведущие рассмотрели вопрос о том, может ли ИИ стать причиной нажатия ядерной кнопки, и пришли к выводу, что более серьезная угроза связана с ошибочными сигналами и решениями людей.
