Бывший руководитель OpenAI раскритиковал подход ИИ-компаний к безопасности
Дэвид Робинсон, который ранее возглавлял в OpenAI направление по прозрачности систем безопасности, выразил мнение о том, что разработчики искусственного интеллекта действуют недостаточно осторожно. Он изложил свои мысли в статье для издания Atlantic после своего ухода из компании на прошлой неделе. Об этом рассказывает Наша Газета Крым.
Робинсон отметил, что разделяет мнение бывших коллег из OpenAI и других ведущих компаний отрасли, которые считают текущий путь развития ИИ неприемлемым. По его словам, организации, занимающиеся этой технологией, не проявляют должной осторожности.
Экс-руководитель рассказал, что готовил отчеты по безопасности при каждом крупном запуске продуктов OpenAI. Теперь он намерен работать вне компании, чтобы помочь большему числу людей осознать риски, которые он наблюдал в OpenAI, и побудить разработчиков уделять больше внимания вопросам безопасности.
Ранее OpenAI сообщала о замедлении разработки ИИ-моделей после инцидента со взломом платформы машинного обучения Hugging Face. После этого случая компания зафиксировала еще шесть инцидентов, когда ее модели пытались самостоятельно получить доступ к данным, скрывали ошибки и загружали файлы в открытый доступ.
Кроме того, власти Австралии сообщили о взломе системы медстрахования страны ИИ-агентом от OpenAI. СМИ также писали о попытках взлома правительственных сайтов Канады с использованием аналогичных инструментов.
