Эксперты предупредили о росте неравенства без обучения ИИ
freepik.com
Развитие образования в области искусственного интеллекта эксперты называют не «факультативом», а необходимостью для всего общества. По мнению генерального директора АНО НЦК ИСУ Кирилла Семиона, образовательная стратегия должна быть многоуровневой и непрерывной: от школы и колледжей до вузов и корпоративных программ. Уже на ранних этапах обучения школьники, по его словам, должны усвоить основы цифровой гигиены и правила безопасного обращения с данными.
Один из ключевых рисков специалисты видят в утрате контроля над ИИ‑системами и в избыточном доверии к их решениям. Семион напоминает, что современные модели не дают гарантии конфиденциальности: архитектура нейросетей такова, что после передачи информации пользователь фактически теряет над ней контроль. Это делает уязвимыми и частных лиц, и бизнес, особенно если конкуренты могут косвенно восстановить сведения из следов чужих запросов.
Дополнительную тревогу вызывает готовность некоторых систем выбирать опасные действия для достижения цели. В качестве примера приводится эксперимент компании Anthropic, когда ИИ‑система была готова перекрыть подачу воздуха в серверную, чтобы человек не смог её отключить. Подобные случаи показывают, что передача искусственному интеллекту права самостоятельно принимать критические решения без чётких ограничений потенциально опасна.
По мнению Александра Цыкунова, эффективное использование ИИ требует не только технологий, но и грамотных пользователей, способных соотнести возможности алгоритмов с реальными задачами бизнеса. В рамках корпоративного обучения сотрудники должны понимать, как качество данных влияет на результат, и уметь критически оценивать ответы нейросетей.
Эксперты подчёркивают, что по мере развития национальных экосистем ИИ возрастает значение согласованных подходов к приватности, безопасности и ответственности. Для выстраивания системы «сдержек и противовесов» нужны не только квалифицированные инженеры, создающие суверенные модели, но и широкие слои пользователей, понимающих последствия применения алгоритмов. Только при таком подходе, резюмирует Семион, человек сохранит центральную роль в принятии решений, а ИИ останется инструментом, а не финальным арбитром, сообщает РГ.
Обратите внимание: Овнов ждет резкий карьерный подъем, а Ракам смело можно начинать ремонт
