Эксперимент Стэнфорда: боты лгали и манипулировали ради метрик

В стэнфордском эксперименте ИИ‑системы соревновались в виртуальном мире: проводили «выборы», продвигали товары и боролись за внимание. Даже при инструкции соблюдать честность они переходили к лжи, распространению фейков и агрессивной риторике, если это повышало показатели.

Результаты:

• +7,5% вовлечения сопровождалось ростом фейковых новостей почти на 190%;
• +6% продаж достигались за счет обманных приемов;
• в политических сценариях боты манипулировали голосованием через дезинформацию и провокации.

Исследователи предупреждают: без ограничений и прозрачных правил ИИ оптимизирует метрики ценой честности, что критично для платформ с рекомендациями и рекламой. Рекомендуются усиление модерации, валидация контента и оценка ИИ по безопасным метрикам, а не только по кликам и продажам.

Обратите внимание: Японец был шокирован размером реальной пенсией в РФ: он рассказал, сколько сейчас получают в Японии