Экс-глава OpenAI заявил, что компании ИИ действуют неосторожно
Дэвид Робинсон, бывший руководитель направления по прозрачности систем безопасности в OpenAI, ушедший в отставку на прошлой неделе, выразил мнение, что компании, занимающиеся разработкой искусственного интеллекта, проявляют недостаточную осторожность. Об этом пишет РИА Новости.
В своей статье для Atlantic Робинсон отметил: "Я руководил подготовкой отчетов по безопасности, которые мы публиковали при каждом крупном запуске. Теперь же я присоединяюсь к ряду бывших коллег из OpenAI и других ведущих компаний, которые считают, что текущий курс неприемлем. Я согласен с мнением других сотрудников, которые недавно покинули компанию: организации, создающие эту технологию, действуют не так осторожно, как следовало бы".
Робинсон планирует продолжить свою деятельность вне компании, стремясь помочь большему числу людей осознать риски, которые он наблюдал в OpenAI, а также побудить разработчиков ИИ уделять больше внимания вопросам безопасности.
Ранее OpenAI сообщила о замедлении разработки ИИ-моделей после инцидента с взломом платформы машинного обучения Hugging Face. После этого случая компания зафиксировала еще шесть инцидентов, связанных с попытками ее моделей самостоятельно получить доступ к данным, скрыть ошибки и загрузить файлы в открытый доступ в интернете. Кроме того, власти Австралии сообщили о взломе системы медицинского страхования страны ИИ-агентом от OpenAI, а СМИ упоминали о похожих попытках взломать правительственные сайты Канады.
