Чат-боты оказались неспособны выявлять видео, сгенерированные нейросетью Sora

Исследователи протестировали ряд агентов на спо...

Фото с сайта pixabay.com

Компания NewsGuard опубликовала исследование, в котором показала, что чат-боты с ИИ испытывают трудности с распознаванием видео, созданных нейросетью Sora от OpenAI. В тестах участвовали Grok от xAI, Gemini от Google и ChatGPT.

Grok ошибался в 95% случаев, Gemini — в 78%, а ChatGPT принимал поддельные видео за настоящие в 92,5% случаев, если на роликах отсутствовали водяные знаки. При сохранении маркеров точность распознавания увеличивалась: Gemini определял все видео верно, Grok — в 30%, ChatGPT — в 7,5%.

Один из роликов ChatGPT ошибочно обозначил как выпуск несуществующего агентства Sora News.
Тестирование Grok на видео от Nano Banana Pro показало, что бот распознаёт контент, созданный продуктами той же компании.

В исследовании также отмечено, что вскоре после появления Sora появились инструменты для удаления водяных знаков, что усложняет выявление сгенерированного видео, сообщает "Красная Весна".

Читайте также: