Pangram стал стандартом в обнаружении ИИ, но стоит ли ему верить
Компания Pangram использует технологию синтетического зеркалирования для определения текстов, созданных искусственным интеллектом. Система сопоставляет тексты, написанные людьми, с аналогичными вариантами, генерируемыми большими языковыми моделями. Это помогает алгоритму распознавать характерные черты машинного письма. Об этом пишет сайт Science XXI.
Кроме того, сервис применяет метод поиска сложных отрицательных примеров. В этом процессе в наборах данных выявляются ложные срабатывания, которые затем используются для дообучения модели. Основатель Pangram, Макс Сперо, отметил, что все наборы данных, используемые компанией, имеют необходимые лицензии.
Согласно информации Wired, Pangram сотрудничает с образовательными учреждениями, юридическими организациями и рекрутинговыми компаниями. Основную часть текстов для обучения составляют литературные произведения. Сперо считает, что разработчики искусственного интеллекта потеряли часть доверия, особенно среди творческих профессионалов.
Публикация о Pangram привлекла внимание после инцидента с рукописью "Застенчивая девушка". В январе Сперо получил PDF-файл произведения после упоминания на Reddit. Он загрузил текст в сервис и опубликовал результаты проверки, но позже выяснилось, что обсуждение этой истории вел сотрудник отдела продаж Pangram.
Критики указывали, что экземпляр рукописи, полученный Сперо, был скачан с пиратского сайта. Он сам признал, что не изучал файл полностью и сразу отправил его на проверку. Позже Pangram проанализировал победителей премии Commonwealth Short Story Prize с 2012 года после высоких результатов одного из лауреатов и выявил еще три возможных случая использования искусственного интеллекта.
Сперо подчеркнул, что показатели Pangram не были основным фактором при отмене книжных контрактов. По его словам, оценка сервиса была лишь небольшой частью общей картины. Он также отметил, что ценность работы не должна основываться на введении читателя в заблуждение о том, был ли текст создан искусственным интеллектом.
