Эксперт предложил рекомендации по внедрению ИИ в компании без утечки данных

Искусственный интеллект (ИИ) все активнее внедряется в рабочие процессы организаций, способствуя подготовке документов, анализу данных и автоматизации рутинных задач. Однако использование нейросетей может привести к утечке конфиденциальной информации, если сотрудники передают во внешние сервисы договоры, клиентские базы или внутренние документы. Об этом сообщил управляющий директор LANSOFT Сергей Таран. Об этом сообщает портал Известия.

По мнению эксперта, основной риск заключается не в использовании ИИ, а в отсутствии четких правил работы с данными. Сотрудник может загрузить в нейросеть часть договора, техническую документацию или финансовую отчетность, после чего компания теряет контроль над тем, где эта информация хранится и кто имеет к ней доступ.

«Первым шагом внедрения ИИ должна стать инвентаризация данных. Организациям необходимо классифицировать информацию на категории: общедоступную, внутреннюю и сведения ограниченного доступа, включая персональные данные и коммерческую тайну. Для каждой группы должны действовать свои правила. Открытые материалы можно использовать для подготовки черновиков и обработки информации, в то время как внутренние документы должны оставаться в защищенной корпоративной среде», — отметил Таран.

Персональные данные клиентов и сотрудников, сведения о сделках и критически важная информация, по словам эксперта, не должны передаваться в открытые внешние сервисы без соответствующих правовых и технических оснований.

Простой запрет на использование нейросетей не решает проблему, поскольку сотрудники могут обращаться к публичным инструментам с личных устройств. Более эффективным подходом является создание корпоративного ИИ-сервиса с разграничением прав доступа, журналом действий и настройками, которые исключают использование внутренних данных для обучения сторонних моделей.

Эксперт также отметил, что компании могут применять открытые модели искусственного интеллекта, которые устанавливаются внутри своей инфраструктуры. Такие решения позволяют сохранить контроль над информацией, но требуют дополнительных технических ресурсов.

Еще одним важным принципом безопасной работы с ИИ является минимизация данных. Таран подчеркивает, что алгоритму не всегда нужны полные документы или базы информации для выполнения задач. Например, при анализе обращения клиента можно удалить фамилию, телефон, адрес и другие персональные сведения. В документах можно заменить реальные данные условными обозначениями, чтобы получить необходимый результат без риска раскрытия конфиденциальной информации.

Отдельное внимание эксперт уделил настройке прав доступа. Он считает, что сотрудники и ИИ-системы должны получать только те полномочия, которые необходимы для выполнения конкретных задач. Например, алгоритм может подготовить проект ответа или сформировать отчет по определенной папке, но не должен иметь возможность самостоятельно выгружать всю клиентскую базу или изменять критические данные без дополнительного подтверждения.

Обучение сотрудников также имеет большое значение. Таран подчеркивает, что общие запреты вроде «не загружайте секретные данные» работают хуже, чем четкие инструкции. Организациям необходимо объяснять, какие сервисы разрешены, какие данные можно использовать в запросах к нейросетям, как правильно обезличивать информацию и куда обращаться при ошибках.

Эксперт акцентировал внимание на том, что безопасное использование ИИ требует контроля не только за входящими запросами, но и за результатами работы алгоритмов. Важно выявлять недостоверные ответы, ограничивать использование ИИ в чувствительных сферах и не допускать его неконтролируемого влияния на информационные системы.

По словам Тарана, эффективное внедрение искусственного интеллекта основывается не на полном запрете технологий, а на сочетании понятных правил, защищенной инфраструктуры и подготовки сотрудников. Такой подход позволяет использовать преимущества ИИ, сохраняя контроль над корпоративной информацией.

Председатель совета директоров АО ХК «Сибирский деловой союз», член совета директоров КАО «Азот» Анастасия Горелкина 25 августа напомнила, что ценность сотрудника для компании определяется не только должностью и уровнем заработной платы, но и сочетанием редких компетенций, влияния на важные бизнес-процессы и сложности его замены. По словам эксперта, сегодня на рынке труда особенно востребованы специалисты в области работы с данными и ИИ, кибербезопасности, автоматизации, продуктовой разработки, управления сложными проектами и продаж с доступом к ключевым клиентам.