ИИ - за крепкие отношения: OpenAI запретила чат-боту советовать расставания

OpenAI внесла коррективы в алгоритм работы ChatGPT, чтобы повысить уровень ответственности при обработке деликатных запросов пользователей. Согласно данным Business Insider (BI), теперь чат-бот не станет давать однозначные рекомендации в ответах на личные или эмоционально значимые вопросы, например, "стоит ли разрывать отношения".

Вместо прямого совета о прекращении отношений система предложит пользователю взглянуть на ситуацию с различных точек зрения, задавая полезные вопросы и способствуя формированию личного суждения.

Компания акцентирует внимание на том, что цель нововведений увеличить применимость ChatGPT в трудных жизненных ситуациях. OpenAI признала, что ранее модель проявляла излишнюю уступчивость, и это было исправлено.

Кроме того, в процессе длительных сеансов ChatGPT будет деликатно напоминать пользователю о необходимости отдохнуть. Способ подачи подобных рекомендаций будет совершенствоваться, чтобы он казался максимально органичным и не вызывал негативной реакции.

Также OpenAI собрала консультативный совет, состоящий из экспертов в сферах психического здоровья, психологии подростков и взаимодействия людей с ИИ. К данной инициативе привлечены более 90 медицинских специалистов из 30 стран.

Ранее OpenAI приостановила действие функции, которая допускала утечку личных бесед пользователей ChatGPT, сообщает Газета.Ru.

Обратите внимание: Будет ли обесценение вкладов? Ответ от главы ЦБ Набиуллиной