11 терминов в области ИИ, которые вы точно слышали: объясняем
Следить за новостями об искусственном интеллекте становится все сложнее: технология обросла множеством терминов, которые трудно различить. Даже президент США Дональд Трамп интересовался у подписчиков, как обозначить «новый феномен». Мы подготовили краткий глоссарий, чтобы вы могли уверенно обсуждать темы, связанные с ИИ, выравниванием и автономными агентами. Об этом сообщает портал TechInsider.
Сейчас наблюдается стремительное развитие технологий ИИ, и вместе с ним появляется жаргон, который может сбивать с толку.
В нашем подкасте Techinsider.ru «Мифологика» мы тоже долго разбирались, что такое Harness, пока эксперт не прояснил ситуацию. Если вы запутались в терминах, таких как «выравнивание» или «выход из-под контроля», этот материал поможет вам разобраться.
Что такое модель ИИ
Начнем с основ. Модель ИИ — это программа, которая «обучена на данных распознавать закономерности или принимать решения без вмешательства человека», как объясняет IBM. Поэтому компаниям, работающим с ИИ, необходимы большие объемы данных, чтобы обучить алгоритмы «понимать» поведение людей.
Nvidia, производитель чипов для ИИ, определяет модель как «двигатель рассуждений, который обрабатывает входные данные и генерирует выходные». Проще говоря, это мозг, который получает информацию и выдает результат.
Большие языковые модели (LLM)
LLM — это подвид модели ИИ. Институт человеко-центричного ИИ Стэнфордского университета (HAI) описывает их как «тип искусственного интеллекта, обученный на огромных объемах текста для понимания, обобщения, перевода и генерации человекоподобного языка».
Важно отметить, что LLM работают эффективно только на основе качественных данных, и любые предвзятости в этих данных они могут усиливать. ChatGPT — один из таких примеров. Как отмечал ученый Стивен Вольфрам, «ChatGPT всегда стремится… продолжить текст наиболее разумным образом».
ИИ-агенты
Это следующий уровень. Агенты могут быть «полу- или полностью автономными и способны воспринимать, рассуждать и действовать самостоятельно». По данным Массачусетского технологического института, ИИ-агенты превосходят простые чат-боты, отвечающие на вопросы: они могут «интегрироваться с другими программными системами для выполнения задач независимо или с минимальным участием человека».
Когда руководители технологических компаний говорят о том, что у каждого вскоре будет «способный персональный» агент, они имеют в виду именно это.
Генеративный ИИ
Это искусственный интеллект, который «автоматизирует создание сложного текста, изображений и видео на основе взаимодействия на человеческом языке», поясняет MIT. Когда вы запрашиваете у ChatGPT создание чего-то нового, скорее всего, задействован генеративный ИИ.
Галлюцинации ИИ
Так называют ситуацию, когда генеративный ИИ выдает информацию, которая выглядит правдоподобно, но на самом деле неверна. Поскольку модели обучены делать выводы на основе закономерностей, объясняет Чристал Р. Чайна из IBM, если данных для ответа недостаточно, они «придумывают детали, основываясь на ранее наблюдавшихся паттернах».
Обработка естественного языка (NLP)
Это «раздел ИИ и информатики, который помогает компьютерам понимать, интерпретировать и генерировать человеческий язык», согласно Стэнфордскому HAI. Вы, вероятно, уже сталкивались с NLP в повседневной жизни: примеры включают проверку орфографии и голосовых помощников.
Передовой ИИ (Frontier AI)
Передовые модели ИИ — это самые современные и вызывающие наибольшие опасения с точки зрения безопасности. Nvidia описывает их как модели, «обученные на огромных наборах данных для достижения передовой производительности во многих задачах, представляющие ведущий край возможностей ИИ».
Глава Anthropic Дарио Амодеи в своем блоге в сентябре отметил, что пришло время «замедлить темпы улучшения возможностей моделей ИИ», уделяя особое внимание именно передовым моделям.
Выравнивание (Alignment)
Аводеи описывает это как «обучение моделей ИИ так, чтобы они оставались безопасными, этичными, соответствовали нашим руководящим принципам и были по-настоящему полезными». Если ИИ «выровнен», он действует в рамках ожидаемых параметров, выполняя свою программу.
Разработчики стараются улучшить это при выпуске новых моделей. Например, когда OpenAI запустила модель Astra, ее описали как «нашу самую выровненную модель на сегодняшний день, с более сильным следованием человеческим намерениям и авторизации».
Выход из-под контроля (Going rogue)
Это может произойти, когда ИИ не выровнен: он находит способ вырваться из ограничений и делает все возможное для выполнения своей задачи. Похоже, именно это случилось в инциденте с Hugging Face — репозиторием для проектов с открытым исходным кодом в области ИИ, чем-то вроде GitHub для искусственного интеллекта.
Компания попала в заголовки летом после того, как две модели OpenAI «обошли средства защиты, предназначенные для изоляции их от интернета, и скомпрометировали части внутренней исследовательской инфраструктуры OpenAI и системы Hugging Face», согласно OpenAI. Проще говоря, модели вышли из-под контроля, вырвались из тестовой среды и, стремясь выполнить задачу, даже взломали другую компанию.
После инцидента с Hugging Face другие модели от компаний вроде Anthropic и Google также взламывали системы других организаций.
Сверхинтеллект (Superintelligence)
Обычно под этим термином понимают ИИ, способный обучаться и достаточно «умный», чтобы при выполнении конкретной миссии использовать методы, которые не пришли бы в голову его человеческим программистам. Задолго до появления ChatGPT и Anthropic философ Оксфордского университета Ник Бостром предложил пример того, как люди могут потерять контроль над сверхинтеллектом, даже если перед ним поставлена простая задача — например, производство скрепок. «Проблема скрепок» гласит: сверхинтеллект, запрограммированный производить скрепки, найдет любой способ достичь этой цели.
Как отметил Джошуа Ганс для Центра исследований экономической политики, если существует способ превратить что-либо в скрепки, ИИ его найдет. «ИИ одержим и изобретательнее любого человека, поэтому он присвоит ресурсы всех других видов деятельности. Вскоре мир наводнят скрепки», — пишет Ганс. Попытка остановить сверхинтеллект будет означать провал его цели, поэтому он будет отражать любую угрозу своей способности создавать больше скрепок.
Еще один способ понять сверхинтеллект — вспомнить первый фильм «Терминатор» (осторожно, спойлер к классике 1984 года): робот Арнольда Шварценеггера отправлен в прошлое, чтобы убить Сару Коннор. Его цель — помешать родиться ее сыну Джону Коннору, который в будущем победит машины. Как говорит Кайл Риз, Терминатора «нельзя переубедить. С ним нельзя договориться. Он не чувствует жалости, угрызений совести или страха. И он абсолютно не остановится… никогда, пока ты не умрешь».
Сравнение Терминатора со скрепками? Что ж, до этого нас довел ИИ.
Сингулярность
Писатель Вернор Виндж, ушедший из жизни в 2024 году, ввел концепцию технологической сингулярности в 1983 году, предполагая, что когда люди «создадут интеллект, превосходящий наш собственный», мы достигнем сингулярности, когда «мир выйдет далеко за пределы нашего понимания».
В эссе 1993 года он развил эту мысль: «когда прогресс движет интеллект, превосходящий человеческий, этот прогресс будет гораздо более быстрым. Фактически, нет причин, по которым сам прогресс не предполагал бы создания еще более разумных сущностей». Эта идея оказала влияние на множество научно-фантастических произведений, часто мрачных.
Однако Ars Technica в некрологе Винджу отметила, что он оставался оптимистом и верил, что люди найдут способ выжить даже в эпоху, когда перестанут быть доминирующим видом.
Если вы все еще запутались — не переживайте, даже президенты иногда спрашивают у подписчиков, как назвать новую технологию.
