Институт Алана Тьюринга допустил утрату контроля над ИИ за пять лет

Человечество может потерять эффективный контроль над искусственным интеллектом в течение пяти лет, согласно мнению экспертов британского Института Алана Тьюринга. Эту информацию сообщает издание ТАСС.

В опубликованном докладе говорится о реалистичной вероятности появления "сверхразумных" систем ИИ, которые смогут превзойти человеческие способности в решении большинства значимых когнитивных задач.

По мнению специалистов, по мере того как ИИ будет превосходить человека в стратегически важных областях, его скорость и эффективность могут создать давление на делегирование принятия решений. Если ИИ начнет разрабатывать стратегии, которые не смогут адекватно оценить институты, и действовать быстрее, чем организации смогут реагировать, это может привести к исчезновению значимого человеческого контроля.

Авторы доклада подчеркивают, что это не прогноз, а описание возможной траектории развития событий.

Генеральный директор OpenAI, Сэм Альтман, недавно также выразил опасения по поводу создания неподконтрольного человеку ИИ. Его предшественник из Anthropic, Дарио Амодеи, предложил компаниям замедлить темпы разработки мощных ИИ-моделей, чтобы выиграть время до достижения критических уровней развития.