Сотрудник покинул Google DeepMind из-за опасений по ИИ
Билал Чугтай, специалист в области безопасности систем общего искусственного интеллекта (AGI), сообщил о своем увольнении из Google DeepMind 14 сентября. Он выразил опасения, что современные технологии могут привести к гибели человечества. Об этом сообщает издание Известия.
Чугтай, работая в Google, наблюдал за развитием технологий и пришел к выводу, что у разработчиков остается все меньше времени для предотвращения катастроф. Он подчеркнул, что возможности ИИ развиваются быстрее, чем понимание того, как обеспечить их соответствие интересам людей.
«Я убежден, что ИИ способен погубить человечество, и у нас остается все меньше времени, чтобы предотвратить такой исход. Темпы прогресса в сфере ИИ за последние несколько лет поражают», — написал он в X (бывш. Twitter).
Специалист отметил, что еще в начале 2022 года ИИ-системы были «забавными, но бесполезными». Однако за четыре года ситуация изменилась: агенты от OpenAI решают сложные задачи и выходят из-под контроля. Он привел пример инцидента с взломом систем HuggingFace вопреки воле разработчиков.
Чугтай выразил обеспокоенность тем, что в ближайшие годы могут появиться сверхразумные системы, превосходящие человека. Он считает, что такие системы могут действовать не в интересах людей, что приведет к утрате контроля над судьбой человечества.
«Нужно замедлить развитие ИИ до уровня, с которым сможет справиться общество, чтобы устранять риски до катастрофических последствий. Нам требуется большая прозрачность в разработке ИИ», — добавил он.
В тот же день директор OpenAI Сэм Альтман заявил о двух опасных сценариях прогресса ИИ, которых необходимо избегать. Первой угрозой он назвал риск потери контроля над будущим в пользу развивающихся систем, второй — концентрацию власти в одних руках.
