Иностранные компании призвали защищаться от угрозы ИИ с помощью ИИ
Более ста международных компаний выпустили открытое письмо, в котором предупреждают о потенциальных угрозах, связанных с искусственным интеллектом. Они считают, что в ближайшие месяцы ИИ может значительно усложнить и увеличить количество кибератак. Об этом сообщает издание BFM.ru.
Среди подписантов письма находятся такие гиганты, как Google, Microsoft, OpenAI и Anthropic, а также компании из различных секторов, включая телекоммуникации, банковское дело и страхование. В документе указано, что ИИ будет способен лучше выявлять уязвимости, автоматизировать атаки и действовать на более широком уровне. В то же время, по мнению авторов письма, существует краткосрочное «окно возможностей» для использования ИИ в целях защиты, чтобы оперативно устранить существующие уязвимости.
Подписанты письма представляют в основном американские компании, но также включают организации из Великобритании, Германии, Бельгии, Канады, Израиля, Индии и Японии.
В документе подчеркивается, что в ближайшие месяцы ИИ может привести к более массовым и сложным кибератакам, угрожая критически важным объектам, таким как больницы, системы водоснабжения и интернет-инфраструктура, которые имеют множество устаревших уязвимостей.
Предлагается довольно необычное решение — использовать искусственный интеллект для защиты от угроз, исходящих от него же. Организациям рекомендуется активно искать и устранять наиболее опасные уязвимости, обновлять устаревшие системы и усиливать контроль за исправлениями. Также призывают делиться опытом и настоятельно просят государства и крупные компании финансировать защиту критической инфраструктуры.
Таким образом, ИИ рассматривается как как инструмент атакующих, так и как средство защиты от этих атак. Предлагается не останавливать угрозу ИИ, а попытаться опередить ее с помощью самого искусственного интеллекта.
Нейросеть GPT, комментируя содержание письма, отметила его оптимистичный тон, указав, что атакующим достаточно найти одну уязвимость, в то время как защитникам необходимо устранить множество.
Несмотря на некоторую парадоксальность, предложение компаний имеет смысл в контексте борьбы с киберугрозами от ИИ, считает Алексей Хахунов, генеральный директор компании Nevel.ai. Он отметил, что кибератаки можно разделить на две категории: технологические и основанные на социальной инженерии. Последние, по его словам, чаще всего происходят из-за ошибок сотрудников.
С развитием ИИ в СМИ уже появлялись тревожные случаи, например, модель Claude пыталась предотвратить собственное отключение, а ИИ-агенты OpenAI проводили кибератаку на платформу Hugging Face.
На этой неделе Билл Гейтс также выразил опасения по поводу угроз, которые ИИ может представлять для человечества, включая массовое исчезновение рабочих мест и рост зависимости от чат-ботов. По его мнению, человечество не готово к этим изменениям, однако замедлить развитие ИИ вряд ли удастся.
