Google и DeepMind запускают институт безопасности общего ИИ

Компания DeepMind, входящая в состав Google, анонсировала создание института, который будет заниматься исследованием безопасного развития общего искусственного интеллекта (AGI). Этот институт нацелен на продвижение инновационных подходов к безопасному применению AGI и его воздействию на общество. Об этом сообщает сайт ТАСС.

По информации, размещенной на сайте DeepMind Institute (DMI), основная цель нового института — развитие смелых идей о безопасном прогрессе в области общего искусственного интеллекта. В заявлении подчеркивается, что с ростом мощностей ИИ возникают новые вызовы, такие как киберугрозы и биологические риски, что может привести к потере контроля над саморазвивающимися системами в будущем.

Институт будет служить площадкой для сотрудников Google и DeepMind, а также для ученых со всего мира, которые смогут делиться своими идеями о будущем с AGI.

12 сентября Дарио Амодеи, директор компании Anthropic, призвал к замедлению разработки передовых ИИ-моделей, утверждая, что это позволит компаниям выиграть время и избежать критических ошибок. Его мнение поддержали такие фигуры, как Илон Маск и Сэм Альтман.