Гибели не избежать?: Выдвинуты сценарии развития искусственного интеллекта

Учитывая текущую динамику развития продвинутого искусственного интеллекта, исследователи выделили потенциальные вызовы, с которыми может столкнуться человечество.

Наряду с энтузиазмом, сопровождающим прогресс в области ИИ, звучат и опасения относительно неконтролируемого развития технологий. Корпорация DeepMind представила обширный анализ, посвященный этой проблематике.

Угрозы могут возникнуть при допущении трех ключевых просчетов. В первую очередь, это ненадлежащее применение нейросетей. Во-вторых, расхождение в целеполагании, и, в-третьих, риски, связанные со структурными недочетами.

В частности, киберпреступники могут выявлять слабые места в системах ИИ и применять нейросети для разработки биологического оружия. Следовательно, компаниям необходимо систематически оценивать безопасность применяемых ими систем.

Рассогласование целей может спровоцировать сценарий, аналогичный «восстанию машин», когда ИИ начинает действовать вразрез с намерениями создателей. К примеру, искусственный интеллект может разработать способы обхода установленных ограничений.

Третий аспект – обыкновенные ошибки, которые могут возникнуть в процессе обучения ИИ. Например, система онлайн-бронирования может неожиданно зарезервировать неверные места или выбрать билеты на другие даты и т.д.

Эксперты подчеркивают, что искусственный интеллект, несмотря на его продвинутый уровень и кажущуюся независимость, требует непрерывного наблюдения и управления.