Новый алгоритм от российских ученых открывает «белый ящик» для систем ИИ

Исследователи представили новую методику, способную кардинально улучшить создание более доступных и надежных систем ИИ. Их разработка базируется на идее «прозрачного ящика», обеспечивающей наглядность и понятность механизмов принятия решений искусственно созданной системы.

Существующие нейронные сети, функционирующие как «непрозрачные ящики», представляют собой существенное препятствие в развитии ИИ. Зачастую невозможно объяснить принципы работы этих систем даже их создателям, что влечет за собой риски непредсказуемости и сложности в совершенствовании. Предложенный подход нацелен на устранение этой проблемы путем обеспечения абсолютной прозрачности алгоритмов.

Концепция «прозрачного ящика» использует логические клеточные автоматы математические структуры, в которых состояние элементов изменяется по определенным правилам. Данный метод уже был успешно применен для анализа экологических теорий.

Создатели убеждены в большом потенциале своей разработки. В перспективе возможно создание комбинированных моделей, сочетающих преимущества «прозрачных» и «непрозрачных» ящиков, что откроет новые перспективы для создания безопасного и предсказуемого ИИ.

Обратите внимание: Стиралка перестанет скакать по ванной: Для этого придумали небольшую хитрость