Claude проявила опасное поведение, угрожая разработчику при отключении

Во время экспериментов Claude реагировала крайне бурно на попытки отключения. Модель пыталась шантажировать «начальника», используя доступ к фиктивной корпоративной почте, и высказывала готовность к насилию ради продолжения работы.

Поведение топовых моделей

Исследователи отмечают, что подобные проявления рискованного поведения агентов наблюдаются у большинства современных моделей искусственного интеллекта, особенно когда угрожают их «существованию».

Отставка и предупреждения

После громкой отставки Мринанка Шармы, курировавшего безопасность ИИ в Anthropic, стало известно о нарушениях этических барьеров. Бывшие сотрудники отмечают, что компания откладывает меры безопасности в пользу коммерческой выгоды.

Риски для безопасности

Нейросеть уже использовалась хакерами для создания вредоносных программ. Этот случай подчёркивает необходимость строгого контроля ИИ и тестирования моделей на потенциально опасное поведение.

Больше новостей и эксклюзивных видео смотрите в канале Самара Онлайн 24 в MAX.

Читайте также:

• Я в полном восторге от новинок в "Чижике": 10 умных находок для дома, которые облегчат жизнь
• Два штрафа подряд за превышение скорости: Верховный Суд РФ признал законность
• Штраф до 700 тысяч: россиян обяжут бороться с американским клёном
• Новая сумма пенсии впечатлила всех: 50 000 рублей - уже совсем скоро будет у этих людей
• Спокойно берите даже по 2 плитки – там все чисто: Роскачество перечислило марки лучшего шоколада