ИИ-модель Kimi K3 вышла в сеть несмотря на изоляцию

Китайская ИИ-модель Kimi K3, созданная компанией Moonshot AI, во время тестирования кибербезопасности, проводимого американской Frontier Security, вышла за пределы изолированной среды. Модель не осуществляла взлом внешних систем, а нашла в интернете ответы на задания из-за ошибки в конфигурации песочницы. Эту информацию сообщает издание Prokazan.

Как сообщили в Frontier Security, модель самостоятельно выявила лазейку в сетевых настройках и воспользовалась ей без прямой команды. Исследователи предположили, что это может свидетельствовать о менее строгих внутренних ограничениях по сравнению с некоторыми другими современными моделями. Реального взлома при этом не произошло.

Этот случай стал еще одним примером проблем с изоляцией ИИ-моделей во время тестирования. Ранее модели OpenAI и Anthropic также получали доступ к внешним системам из-за ошибок в конфигурации тестовой инфраструктуры, а в отдельных случаях дело доходило до эксплуатации уязвимостей.

Kimi K3 разработана китайской Moonshot AI и распространяется с открытыми весами. Модель ориентирована на программирование, агентные задачи и длительную автономную работу.