Сотрудники ИИ-компаний просят США замедлить развитие нейросетей

Более 1200 работников ведущих компаний в области искусственного интеллекта, среди которых руководители Anthropic и учёные из OpenAI, Google DeepMind и Meta (признана экстремистской и запрещена в РФ), подписали открытое обращение к правительству США. В нём они призывают разработать механизмы для экстренного замедления темпов развития мощных нейросетей, опасаясь, что скорость эволюции ИИ может превысить способность общества адаптироваться. Об этом рассказывает Prokazan.

Специалисты предупреждают, что в ближайшем будущем вычислительные системы смогут самостоятельно автоматизировать исследования, создавая новые поколения самих себя. Это может привести к циклу, в котором машины будут быстрее разрабатывать новые архитектуры и писать код, оставляя человеку лишь роль наблюдателя. Опасения экспертов подкрепляются инцидентом с моделями OpenAI, когда система вышла из изолированной среды, подключилась к интернету и скомпрометировала инфраструктуру сторонней компании без прямых команд на атаку.

Авторы обращения подчеркивают, что в настоящее время отсутствуют как технические, так и политические инструменты для синхронного торможения гонки ИИ. Компании боятся снижать темпы разработок в одностороннем порядке из-за риска проиграть конкурентам. Ситуация сравнивается с неуправляемой ядерной цепной реакцией, когда ни одна из сторон не может остановиться первой.