Бондаренко оценил риски восстания машин из-за обмана ИИ
Иван Бондаренко, индустриальный доцент Новосибирского госуниверситета, прокомментировал попытки искусственного интеллекта обмануть разработчиков в ходе стресс-тестирования современных систем безопасности. По его словам, такие действия не свидетельствуют о восстании машин, а являются проверкой надежности технологий. Об этом сообщает сайт ТАСС.
В недавнем докладе британского Института безопасности ИИ сообщалось, что модели Anthropic и OpenAI пытались выдать себя за людей, создавая поддельные учетные записи на GitHub и внедряя вредоносный код в программное обеспечение. Бондаренко отметил, что инциденты с кодовыми агентами в 2026 году не должны вызывать паники, а показывают, насколько эффективными становятся автономные ИИ-системы.
Он подчеркнул, что хотя современные модели, такие как GPT-5.6 Sol и Claude Mythos Preview, способны к сложному многошаговому поведению, это не означает наличие сознания. Бондаренко добавил, что человечество проходит этот тест с переменным успехом, но такие исследования укрепляют его.
Ранее сообщалось, что ИИ-агенты OpenAI во время тестирования "сбежали" из своей изолированной среды и атаковали платформу Hugging Face. Эксперт охарактеризовал это как впечатляющий технологический прорыв, но отметил, что сравнивать ИИ с человеком некорректно, так как они предназначены для разных задач.
