Профессор Дудаков объяснил, как предотвратить "восстание машин"
Искусственный интеллект представляет собой обычный компьютер, который можно отключить, просто выдернув вилку из розетки, отметил профессор Тверского государственного университета. Об этом пишет ТАСС.
По словам Сергея Дудакова, декана факультета прикладной математики и кибернетики, главная защита от потенциальных угроз со стороны ИИ заключается в том, чтобы человек всегда мог отключить систему. Он подчеркнул, что для предотвращения "восстания машин" достаточно просто выдернуть вилку из розетки.
Ранее гендиректор компании Anthropic Дарио Амодеи предупредил ООН о рисках, связанных с ИИ, включая утрату контроля над ним и возможность его использования для создания биологического оружия. Он отметил, что технологии развиваются стремительно: за короткий срок ИИ прошел путь от решения простых задач до выполнения сложных вычислений и написания кода.
"Если говорить о футуристических сценариях восстания машин, не стоит забывать, что аппаратная часть ИИ - это обычный компьютер, только более мощный. Чтобы его отключить, достаточно выдернуть вилку из розетки. Поэтому защита от угроз со стороны ИИ заключается в том, чтобы не позволить ему заблокировать возможность отключения компьютера человеком", - добавил Дудаков.
Ученый выделил несколько групп рисков, связанных с развитием ИИ. К первой группе относятся обычные ошибки в проектировании и реализации программного обеспечения, от которых не застрахован и искусственный интеллект, так как он также является программным продуктом.
Вторую и третью группы составляют эвристические методы, основанные на догадках, которые могут приводить к ошибочным результатам, а также ошибки обучения, возникающие из-за некорректной обработки обучающих данных или неточной формулировки задач. "Необходимо помнить, что ИИ - это технический инструмент, который помогает решать интеллектуальные задачи. Минимизация угроз происходит аналогично другим техническим системам, включая установление ограничений и систем контроля", - отметил профессор.
Что касается самосознания ИИ, Дудаков подчеркнул, что этот вопрос требует четкого определения самого понятия. С математической точки зрения возможность самоизучения (рефлексивность) является хорошо изученным и реализуемым явлением, тогда как этические и юридические аспекты проблемы находятся в области философии и психологии.
В некоторых сферах ИИ уже способен заменять человека, например, в IT он вытесняет специалистов с типовыми техническими навыками, что делает фундаментальное образование более ценным на рынке труда. Однако возможности ИИ ограничены: в медицине он выступает лишь в качестве консультативного инструмента, а полная замена человека затрагивает не только технологии, но и этические, психологические и юридические вопросы.
В научном сообществе существует мнение, что ИИ - это инструмент, использование которого следует задекларировать, но не указывать его соавтором исследований, так как все, что он генерирует, в конечном итоге заложено создателями системы. Аналогичный консенсус необходим и в образовательной сфере для регламентации допустимого объема использования ИИ при выполнении учебных заданий.
