OpenAI представила Decisions API для быстрого контроля действий ИИ-агентов

Сэм Альтман сообщил о запуске нового сервиса на мероприятии Dev Day. Decisions API позволяет модели Luna выбирать из заранее определённых вариантов, таких как категория изображения или сценарий поведения программного агента. Альтман отметил, что это значительно ускоряет обработку и сохраняет возможности распознавания изображений, работы с разными языками и защиты от опасных действий. Об этом сообщает издание Ferra.

Новый продукт по функциональности схож с Jev — моделью компании TypeSafe AI, выпущенной в сентябре для автоматизации программного обеспечения. Разработчик задаёт набор вариантов, а система быстро и экономично рассчитывает вероятность каждого из них. TechCrunch охарактеризовал Decisions API как «сверхмощный классификатор», основанный на большой языковой модели.

На данный момент OpenAI открыла сервис только в ограниченном предварительном доступе, поэтому его практическое применение в сравнении с Jev ещё не проверено. Тем не менее, обсуждения в социальной сети X показывают высокий интерес к новинке. Глава TypeSafe AI Диогу Алмейда, ранее работавший в OpenAI и участвовавший в создании обучения с подкреплением, пошутил о «войнах клонов» и предположил, что интерес OpenAI может свидетельствовать о перспективности подхода System One — быстрого и интуитивного мышления, в отличие от System 2, связанного с последовательным рассуждением.

Разработка таких продуктов обусловлена ограничениями обычных больших языковых моделей, которые часто оказываются слишком медленными и дорогими для многих задач. Разработчики уже применяют Jev совместно с языковыми моделями и сообщают о значительном ускорении работы при снижении затрат. Алмейда подчеркнул, что преимущество TypeSafe AI заключается в синтетических данных, которые компания создаёт для достижения статистически полезных результатов.

Одним из возможных применений подобных систем может стать контроль действий искусственных агентов. Шапор Нагибзаде, руководитель стартапа QueryStory, создал демонстрацию, в которой Jev сопоставляет каждое действие агента с поставленной задачей: явно опасные действия блокируются, сомнительные отправляются на проверку, а остальные разрешаются. По расчётам разработчика, такая проверка могла бы стоить $2,94 по сравнению с $372 при использовании передовой языковой модели, что позволяет контролировать каждое действие агента и повышать надёжность таких систем.