Система предсказывает ошибки беспилотников на дороге
Исследователи из Массачусетского технологического института и компании Motional разработали систему, способствующую объяснению решений беспилотных автомобилей. Эта новая технология, названная Concept-Wrapper Network (CW-Net), направлена на то, чтобы сделать действия автопилота более понятными для водителей и пассажиров. Эту информацию сообщает издание Science XXI.
Беспилотные автомобили применяют модели глубокого обучения, которые могут ошибаться в нестандартных дорожных условиях. Например, они могут неожиданно затормозить, перекрывая путь экстренному транспорту. В таких ситуациях пассажиру необходимо быстро понять, почему машина ведет себя именно так, чтобы при необходимости вмешаться.
CW-Net преобразует внутренние процессы управления в доступные формулировки, такие как «приближение к остановившемуся автомобилю» или «близко к велосипедисту». Эти пояснения отображаются одновременно с рассчитанной траекторией движения в реальном времени. Разработчики подчеркивают, что модуль не должен ухудшать работу исходной модели управления.
Для обучения системы использовался набор из 130 миллионов примеров дорожных сцен, собранных беспилотными автомобилями. В каждом эпизоде отмечались различные ситуации и объекты. Это позволяет CW-Net распознавать важные факторы движения в различных условиях.
Испытания на закрытой трассе с роботакси Motional продемонстрировали, что пояснения помогают водителям точнее предсказывать действия автомобиля. В одном случае автомобиль останавливался рядом с велосипедистом не из-за корректного распознавания, а после срабатывания экстренного торможения. Получив такую информацию, водитель мог заранее снизить скорость или переключиться на ручное управление.
Схожие результаты были получены в компьютерном исследовании с участием пользователей, где использовались реальные дорожные ситуации из Лас-Вегаса. Участники с пояснениями CW-Net лучше прогнозировали поведение беспилотного автомобиля. Авторы исследования, опубликованного в журнале Nature, уверены, что данная технология может помочь инженерам выявлять ошибки в системах искусственного интеллекта и повысить безопасность автономного транспорта.
