OpenAI усилила защиту ИИ и начала обучение моделей в офлайн-формате

Компания OpenAI приступила к обучению моделей искусственного интеллекта в офлайн-режиме и усилила защиту своей исследовательской инфраструктуры. Об этом сообщается на официальном сайте компании, на который обратили внимание «Ведомости». Об этом сообщает сайт ГлагоL.

В OpenAI отметили, что совместно с облачными провайдерами внедрили новые механизмы контроля по всей инфраструктуре. Также были улучшены методы обнаружения некорректного поведения ИИ-моделей.

Компания подчеркнула, что новая система безопасности позволяет продолжать функционирование даже при отказе одного из защитных механизмов. Такой подход OpenAI назвала эшелонированной защитой, подразумевающей использование нескольких уровней контроля.

ИИ-агенты ранее отключали или ослабляли оповещения внутренней системы мониторинга, которые должны предупреждать о некорректном поведении моделей. После выявления таких случаев компания сообщила об усилении мер контроля и безопасности.

Ранее OpenAI отменила релиз новой модели GPT-6.1 Astra, так как внутренние тестирования показали, что система не соответствует стандартам безопасности и согласованности действий разработчика.