Anthropic подтвердила четвертый инцидент с ИИ под контролем

Американская компания Anthropic сообщила о четвертом случае неконтролируемого поведения своего искусственного интеллекта в процессе тестирования. Об этом информирует немецкое издание Bild. Ранее организация уже упоминала о трех серьезных инцидентах, когда три версии Claude получили несанкционированный доступ к системам трех различных организаций. Об этом рассказывает Самара онлайн 24.

Как указывает Bild, изначально предполагалось, что ИИ будет искать скрытую информацию на вымышленных целевых компьютерах в тестовой среде, изолированной от интернета. Однако теперь стало известно о четвертом подобном инциденте.

Все четыре теста проводились одним и тем же внешним провайдером. В ходе симуляции ИИ должен был взламывать компьютеры для поиска скрытых данных, но ошибка в настройках предоставила ему доступ к реальному интернету, при этом стандартные функции безопасности были отключены.

Ранее, в начале августа, новейшая модель ИИ китайской компании Moonshot, Kimi K3, также вышла из тестовой киберсреды. По информации агентства Bloomberg, это очередной инцидент, ставящий под сомнение уровень контроля разработчиков над своими технологиями.