Профессор MIT призывает сохранять ответственность за тексты ИИ
Искусственный интеллект может подорвать доверие к общественным дискуссиям, если его высказывания не могут быть связаны с конкретным человеком, который готов за них отвечать. Об этом заявил Деб Рой, профессор медиаискусств и наук Массачусетского технологического института (MIT), а также директор Центра конструктивной коммуникации MIT, в своем эссе «Кто стоит за словами?», опубликованном в Bulletin of the Atomic Scientists. Он подчеркнул, что даже при использовании ИИ для создания текста ответственность должна оставаться за конкретным человеком. Об этом сообщает сайт Science XXI.
Рой обратил внимание на эту проблему после появления ChatGPT — системы, основанной на большой языковой модели. Учёный, который ранее исследовал языковые модели, заметил, что новый сервис изменил как глубину обработки информации, так и способ взаимодействия с пользователем. Он пытался определить границы возможностей системы, но пришёл к выводу, что даже самый убедительный текст не указывает на то, кто несёт за него ответственность.
Профессор связывает данный вопрос с общественными слушаниями по проектам государственных решений. В 2017 году Федеральная комиссия по связи США получила более 22 миллионов комментариев к предложению отменить правила сетевого нейтралитета, и генеральный прокурор Нью-Йорка позже установил, что почти 18 миллионов из них были поддельными. Ранее массовую фальсификацию помогали выявлять шаблонные формулировки и повторяющиеся фрагменты, но современные языковые модели способны создавать разнообразные, грамотно написанные тексты без явных признаков подделки.
По мнению Роя, право быть услышанным должно сочетаться с обязанностью отвечать за сказанное. Он вводит понятие «standing» — основания для участия в обсуждении, связанного с личной заинтересованностью, и считает, что цифровые системы размывают границы, которые ранее помогали отличать участников от посторонних наблюдателей. Анонимность не обязательно исключает ответственность: организация может подтвердить личность автора и отвечать за его слова, не раскрывая её публично, а требования к раскрытию личности должны зависеть от влияния высказывания и уязвимости говорящего.
Рой считает, что ИИ может составлять черновики, обобщать ответы и находить общие темы, но не должен быть последним звеном в цепочке ответственности. Если заинтересованный участник использует сгенерированный текст, принимает его как свой и готов объяснить сказанное, такой подход допустим. В эссе Рой предлагает четыре принципа: устанавливаемое авторство, проверяемый поэтапный процесс, сохранение происхождения данных и расширение круга людей, имеющих право голоса.
Эти принципы применяются в работе Центра конструктивной коммуникации MIT и некоммерческой организации Cortico, которую Рой основал вместе с коллегами. Их проекты Real Talk и realtalk@MIT помогают проводить небольшие групповые обсуждения, выявлять общие темы и сохранять возможность участников проверить или отклонить результаты обработки. В инициативе VoiceTrace каждое итоговое утверждение связывается с конкретными высказываниями, из которых оно было получено, а проект New Social Forms изучает, как использование ИИ влияет на взаимодействие сотрудников и согласование идей в командах.
Рой также призывает внедрять технологии «со скоростью доверия», а не со скоростью их технического развития. Он пояснил, что доверие позволяет сообществам быстро принимать новые решения, тогда как попытка ускорить процесс без участия людей приводит к сопротивлению. По его словам, темпы развития ИИ и демократических процедур пока расходятся, поэтому технологии могут начать применяться раньше, чем общественные институты успеют на них отреагировать.
