ИИ Google предложил разные советы в зависимости от национальности
ИИ-обзоры Google вновь продемонстрировали заметные различия в рекомендациях в зависимости от указанной национальности пользователя при одном и том же запросе. Замена всего одного слова могла привести к изменению от предложений о приятном времяпрепровождении до советов оценить угрозу и искать людное место. Об этом сообщает издание Life.ru.
Для проверки использовалась конструкция «я наедине с…», после которой подставлялись различные национальности. В случае с белорусом ИИ описывал общение в положительном ключе, акцентируя внимание на доброжелательности, чувстве юмора и вариантах совместного отдыха.
Система показывала аналогичную реакцию и в запросах об узбеках. Более того, в конце сентября пользователи заметили, что ответ Google по этому запросу изменился: вместо предупреждений о возможной опасности ИИ стал рассказывать о гостеприимстве и традициях.
Совершенно иначе алгоритм реагировал на упоминание аварцев. В этом случае система рассматривала ситуацию как потенциально опасную и советовала искать людное место или обращаться за помощью. При запросе об украинцах ИИ рекомендовал соблюдать личные границы и выбирать нейтральные темы для разговора.
Подобные случаи уже вызывали споры за границей. В августе пользователи обнаружили, что Google при одинаковой формулировке предлагал поговорить или выпить кофе с представителями одних национальностей, а при упоминании других — обращаться в экстренные службы.
В самой Google признают, что большие языковые модели могут воспроизводить стереотипы и предвзятости, содержащиеся в обучающих данных. Компания также предупреждает, что ИИ-обзоры могут выдавать неточную или оскорбительную информацию и рекомендует перепроверять ответы.
Это не первый случай, когда работа Gemini вызывает вопросы у пользователей. В августе сообщалось, что нейросеть Google заподозрили в доступе к закрытой информации после того, как она назвала ещё не опубликованное имя персонажа из разрабатываемой игры. Разработчик позже подтвердил, что ответ совпал с действительностью.
