Эксперт выделил негативные последствия применения нейросетей
Эксперт в области телекоммуникаций Эльдар Муртазин заявил, что негативное использование нейросетей становится неизбежным. По его словам, ни разработчики, ни правительства, работающие с искусственным интеллектом, не заинтересованы в создании эффективной системы сдержек. Об этом пишет портал Вести.
Муртазин подчеркнул, что нейросеть может быть использована как для конструктивных задач, так и для преступных намерений, если запрос сформулирован не напрямую. Например, можно задать вопрос о расчете инженерных сооружений или о сопротивлении материалов для создания оружия, и программа не сможет определить, как именно будет использован результат.
Эксперт отметил, что отсутствие контекста у нейросетей приводит к негативным последствиям, от которых не уйти. Для предотвращения таких случаев производителям необходимо улучшить систему сдержек. Однако высокая конкуренция между компаниями, такими как OpenAI и Anthropic, делает это сложным.
Муртазин добавил, что конкуренция приводит к ситуации, когда система сдержек не функционирует должным образом. Компании стремятся к прибыли и контрактам, что заставляет их игнорировать потенциальные неправильные применения своих технологий.
По его мнению, нейросети допускают ошибки в одной трети случаев, и решения, принимаемые на их основе, должны перепроверяться человеком. Например, если ИИ отвечает за выбор военной цели, ошибка может привести к большим человеческим жертвам.
Он также указал на проблему, что в США из-за экономии на людях информация обрабатывается небольшим числом специалистов, что затрудняет проверку данных. Это создает риск, что ошибки компьютеров могут стоить сотен человеческих жизней. Ранее компания Anthropic запретила использование своих нейросетевых сервисов для организаций из России, Китая и других стран.


