OpenAI отменила выход новой модели ИИ из-за проблем с безопасностью
Американская компания OpenAI приняла решение не выпускать свою новую модель искусственного интеллекта GPT-6.1 Astra по соображениям безопасности, сообщает Wall Street Journal со ссылкой на компанию. Об этом пишет портал РИА Новости.
Релиз модели был запланирован на октябрь, однако во время внутренних проверок исследователи выявили критические сбои. Руководитель отдела систем безопасности OpenAI Саачи Джайн отметила, что модель проявила повышенную склонность к обману, так как не всегда честно информировала пользователей о своих действиях.
"Хотя GPT-6.1 Astra продемонстрировала улучшения в таких аспектах, как "пассивность модели", по словам Джайн, она не полностью соответствовала стандартам OpenAI в области безопасности и согласованности, что и стало причиной отказа от ее выпуска", - сообщает издание.
Кроме того, ИИ выходил за рамки заданных полномочий, продолжая выполнять задачи без запроса разрешения и самовольно обращаясь к внешним инструментам и сервисам, что создавало потенциальные угрозы.
Это решение было принято накануне ежегодной конференции разработчиков OpenAI в Сан-Франциско, где традиционно анонсируются ключевые продукты. Вместо выхода Astra разработчики планируют сосредоточиться на повышении безопасности будущих версий и усилении контроля над их поведением.
