Anthropic ограничила доступ к Claude из-за угрозы биооружия
В 2026 году компания Anthropic предотвратила несколько попыток использования своих моделей искусственного интеллекта для исследований, которые могли бы способствовать созданию биологического оружия. Об этом сообщает The New York Times, ссылаясь на отчет компании. Об этом рассказывает Известия.
В документе указано, что Anthropic не может четко определить цели таких исследований, так как их результаты могут быть использованы как для разработки вакцин, так и для создания опасных патогенов. Компания сообщила, что исследователи обошли региональные блокировки моделей и пытались скрыть свои истинные намерения, чтобы избежать мер предосторожности.
«Вы не увидите, чтобы кто-то говорил, как в комиксах: «Я хочу создать биологическое оружие, чтобы убить всех». Это крайне сложная и неоднозначная ситуация», — отметил глава отдела разведки угроз Anthropic Джейкоб Кляйн.
Из-за неопределенности целей компания не раскрыла имена ученых, их гражданство или перечень биологических компонентов. Тем не менее, в Anthropic было принято решение заблокировать доступ этих пользователей.
В качестве примера подозрительной активности упоминается инцидент, произошедший в мае. Один из исследователей использовал нейросеть Claude для написания заявки на грант по экспериментам с вирусом чикунгунья. Ученый намеревался создать мутации, которые сделали бы вирус более опасным при повторном заражении животных. В Anthropic уточнили, что работа предназначалась для военного научно-исследовательского института.
Агентство Bloomberg 10 сентября сообщило, что OpenAI может замедлить разработку передовых ИИ-систем из-за растущих опасений относительно рисков, связанных с их созданием и использованием. Уточнялось, что в последние недели сотрудники крупнейших ИИ-компаний стали открыто обсуждать растущие риски, связанные с развитием передовых технологий нейросетей.
