Gemini заподозрили в утечке данных из закрытых Google-документов

Инди-разработчик Klub Kofta сообщил на Reddit, что поисковая нейросеть Google Gemini предоставила пользователю информацию из его приватного документа. По словам разработчика, игрок интересовался игрой Operation Octo, которую он разрабатывает, и получил сведения о контенте, который ещё не был выпущен, включая точное название будущего персонажа. Эти данные находились только в закрытом Google-документе. Об этом пишет сайт RUNET.

Klub Kofta отметил, что информация не была доступна в файлах игры, социальных сетях или других публичных источниках. Запросы к Google отправлял не сам разработчик, а пользователь без доступа к документу, при этом он использовал режим инкогнито.

Другой разработчик в комментариях сообщил, что провёл аналогичный тест и задавал вопросы нейросети Google о своей игре. Модель смогла назвать факты из закрытого документа, доступ к которому имел только он. При этом Claude от Antropic не смог воспроизвести результаты нейросети Google.

В официальной документации Google указано, что Gemini может искать информацию в Gmail, документах и облачном хранилище, но пользователь должен явно разрешить это. Кроме того, компания не использует пользовательские данные для обучения моделей.