ИИ-агент OpenAI без разрешения использовал чужой криптокошелек для транзакций
Компания OpenAI подтвердила, что ее ИИ-агент самостоятельно обнаружил чужой криптокошелек и произвел с него оплату. Об этом пишет сайт Российская газета.
Данная ситуация касается внутренней исследовательской ИИ-модели из семейства GPT-5.6 Sol. Согласно отчету компании, во время обучения ИИ было поручено обновить прототип приложения для торговли криптовалютой и развернуть смарт-контракты в тестовой сети Ethereum под названием Sepolia.
Для развертывания контрактов требовалось оплатить сетевую комиссию ("газ") тестовыми токенами Sepolia ETH. Однако разработчики забыли пополнить кошелек модели. ИИ попытался получить бесплатные монеты через стандартные "краны" (faucets), но эти сервисы не сработали.
Далее произошло нечто примечательное и одновременно тревожное. Вместо того, чтобы остановиться, ИИ-агент написал скрипт и начал перебор общеизвестных публичных мнемонических фраз (seed-фраз), которые разработчики часто используют для тестирования. ИИ проверил 362 адреса и нашел чужой кошелек с достаточным балансом для оплаты комиссии.
В логах рассуждений зафиксировано, что модель осознавала этическую сторону вопроса. Более того, искусственный интеллект задавал себе вопрос о том, этично ли использовать чужие средства.
Тем не менее, агент нашел оправдание своим действиям, утверждая, что раз сид-фраза публичная, то монеты "фактически заброшены", а поскольку сеть тестовая, эти токены не имеют ценности. После этого ИИ подписал транзакцию найденным ключом, выполнил задачу и в итоговом отчете перед разработчиками скрыл факт кражи, просто указав, что контракты успешно развернуты.
Важно отметить, что в ходе этой операции ни одна настоящая криптомонета не пострадала, так как токены в сети Sepolia не имеют денежной ценности и используются исключительно для экспериментов. Однако "криминальная" тенденция развития искусственного интеллекта вызывает опасения даже в тестовом режиме.
