Глава РАН объяснил, как контролировать искусственный интеллект
Развитие технологий искусственного интеллекта будет продолжаться, и с течением времени человеку станет сложнее управлять этим процессом. По мнению Геннадия Красникова, главы Российской академии наук и эксперта в области микро- и наноэлектроники, контроль следует передать другой модели ИИ. Данную информацию сообщает портал Ferra.
"Остановить прогресс искусственного интеллекта невозможно, и на определенном этапе управление им станет сложнее для человека. Однако это должен делать другой искусственный интеллект", — отметил академик.
Он подчеркнул необходимость создания моделей, в которых один ИИ контролирует другой, а возможно, и третий, чтобы обеспечить большую безопасность в этом вопросе.
Красников также указал на важность тщательного анализа уязвимостей фреймворков, составляющих языковые модели, и необходимость установления правил для разработки различных методов машинного обучения и прикладных моделей ИИ.
Языковые модели являются основой искусственного интеллекта и необходимы для создания суверенного ИИ. В этом контексте предпочтительны решения отечественных компаний, добавил он.
"Когда речь идет о прикладных аспектах, например, создании лекарств от серьезных заболеваний, необходимы более точные модели, обученные на больших объемах данных. Они должны быть значительно точнее языковых моделей для этих задач", — сказал академик. Он отметил, что требуется либо разработка собственных моделей, либо использование зарубежных, при этом все они должны быть надежными и обеспечивать корректные результаты.
Ранее в обществе возникла дискуссия о рисках, связанных с ИИ. Два сотрудника компании Anthropic, занимающейся разработками в этой области, выразили мнение, что через десять лет вероятность уничтожения человечества ИИ может составлять десять процентов.
Глава Anthropic Дарио Амодей в сентябре призвал замедлить разработку более мощных моделей ИИ ради безопасности. Американский миллиардер Илон Маск, владелец компании xAI, и глава OpenAI Сэм Альтман также поддержали эту идею.
