Глава Anthropic пообещал безопасное развитие ИИ и контроль систем
Дарио Амодеи, генеральный директор компании Anthropic, подтвердил приверженность организации ответственному развитию искусственного интеллекта во время выхода стартапа на биржу. В четверг компания начала торги на Nasdaq, что стало крупнейшим первичным размещением акций в истории. Об этом сообщает сайт RuSamara.
Перед началом торгов Амодеи отметил, что Anthropic была создана с целью разработки мощных технологий на благо человечества. Он связал этот подход с личной историей: его отец скончался от болезни, которая через несколько лет стала излечимой. По его словам, искусственный интеллект способен ускорить научные и медицинские исследования, помогая специалистам быстрее находить методы лечения.
Руководитель Anthropic также упомянул о рисках, связанных с развитием ИИ. К ним он отнёс возможное злоупотребление технологиями отдельными людьми и государствами, экономические потрясения и утрату контроля над системами. Амодеи убеждён, что эти угрозы можно избежать при наличии защитных механизмов, проверок и постоянного изучения поведения моделей.
Компания планирует продолжать работу над согласованием искусственного интеллекта с человеческими целями, его тестированием и контролем безопасности. Амодеи подчеркнул, что обучение и внедрение новых систем будут происходить с такой скоростью, которая позволит убедиться в их безопасности, даже если это потребует больше времени. Он добавил, что финансовое укрепление Anthropic после размещения акций должно усилить готовность компании принимать решения в области безопасности.
Даниэла Амодеи, сестра руководителя и сооснователь Anthropic, сообщила CNBC, что потенциальные угрозы ИИ реальны, но возможности технологии также «невероятны». Она отметила, что с момента основания компания стремилась снижать риски и намерена продолжать эту работу. Подробности выступления Дарио Амодеи на открытии торгов освещает TechCrunch.


