Google DeepMind разработала метки для ИИ-белков, но их можно обойти
Исследователи нашли способ наносить скрытые метки на белки, созданные с помощью искусственного интеллекта, не нарушая их функциональности. Команда Google DeepMind представила технологию SynthIDBio, которая поможет установить происхождение искусственно спроектированных белков и снизить риски их потенциально опасного использования. Об этом пишет Science XXI.
Искусственный интеллект способен создавать белки, которые ранее не существовали. Эти молекулы могут быть полезны в разработке новых лекарств, но также представляют угрозу, например, при создании токсинов или других биологических агентов. Профессор биологии Мюнстерского технологического университета в Ирландии Рой Слейтор, не участвовавший в исследовании, отметил, что маркировка может помочь в идентификации искусственных белков и направлять их на дополнительные проверки биобезопасности.
Новые методы основаны на системе ProteinMPNN. Пользователь задает желаемую трёхмерную форму белка, и программа подбирает последовательность аминокислот, которые являются строительными блоками молекулы, определяющими её структуру и функции. SynthIDBio-sequence незаметно изменяет выбор аминокислот по секретному ключу, что позволяет специальному детектору определить вероятность создания последовательности с такой меткой.
Второй вариант, SynthIDBio-structure, встраивает отметку непосредственно в пространственную структуру белка. Для этого модифицируется работа алгоритма AlphaFold 3: система вносит минимальные изменения в расположение атомов, которые можно обнаружить, несмотря на то, что они не выглядят как явное искажение. В испытаниях оба метода выявили более 99% маркированных белков и правильно распознали 99,9% белков без меток.
Тем не менее, специалисты считают, что технология пока недостаточно устойчива для широкого применения. Главный прикладной научный сотрудник Microsoft Брюс Виттманн сообщил, что метки можно удалить: для последовательностей достаточно изменить порядок аминокислот, а для структур — добавить шум или скорректировать пространственные координаты. После этого стандартные системы проверки не смогут установить, что маркировка существовала.
Эксперт по химическому, биологическому, радиологическому и ядерному оружию лаборатории Шпиц в Швейцарии Макс Бракманн отметил, что даже постоянная метка не обеспечит полной защиты: она может указать на создателя опасного белка или факт несанкционированного доступа к программе, но не обязательно остановит злоумышленников. Дополнительную проблему создает открытый исходный код большинства программ для прогнозирования и генерации белков, так как его можно свободно изменять. Виттманн считает, что маркировка может стать лишь одним из уровней биобезопасности, а профессор биофизики Университета Джонса Хопкинса Джордж Роуз заявил: «I’m convinced it won’t work».
