Специалисты из Microsoft с применением технологий искусственного интеллекта смогли выявить уязвимости нулевого дня в программном обеспечении для биологической защиты, предназначенном для блокирования несанкционированного применения ДНК.
Источник изображения: Braňo / unsplash.com
Эти защитные механизмы предотвращают коммерческую реализацию генетических последовательностей, способных служить для синтеза летальных токсинов и болезнетворных микроорганизмов. Команда учёных во главе с ведущим исследователем Microsoft Эриком Хорвицем разработала метод обхода данной системы, не известный ранее экспертам по безопасности. Хорвиц с коллегами задействовали генеративные ИИ-алгоритмы, созданные для проектирования новых белковых соединений — аналогичные инструменты уже применяются в фармацевтических разработках. Однако такие системы обладают двойным потенциалом, производя как полезные, так и опасные молекулярные структуры. С 2023 года в Microsoft исследуют возможности ИИ двойного назначения, чтобы определить, могут ли они быть использованы биотеррористами для создания вредоносных белков.
Сотрудники корпорации предприняли попытку преодоления защитных функций программного обеспечения биобезопасности. В процессе создания белков учёные обычно приобретают у коммерческих провайдеров последовательности ДНК, которые затем внедряются в клеточные структуры. Специальное программное обеспечение сопоставляет поступающие заказы с каталогом известных патогенов и токсинов — при обнаружении схожих элементов активируются предупреждения. В ходе разработки атаки Microsoft использовала несколько моделей для синтеза белков, включая собственную разработку EvoDiff; задача исследователей заключалась в модификации токсинов для обхода программной проверки при сохранении их опасных характеристик.
Источник изображения: digitale / unsplash.com
Исследование было выполнено исключительно в виртуальном пространстве: в физическом мире не производилось ни одного опасного протеина, чтобы исключить обвинения в создании биологического оружия. Microsoft также сообщила, что уведомила американские регуляторные органы и разработчиков программного обеспечения до публикации данных, однако определённые молекулы, сгенерированные искусственным интеллектом, всё равно преодолевают существующие барьеры. Представители Integrated DNA Technologies, ведущего поставщика материалов для синтеза ДНК, отметили, что устранение этих пробелов безопасности — не единовременная задача, а «старт для последующих проверок», проведя параллель с «соревнованием в вооружениях». Для предотвращения неправомерного применения результатов учёные Microsoft сознательно ограничили детализацию методологии и не разгласили, какие именно белковые структуры подвергались модификации с помощью ИИ.
Тем не менее, существует позиция, что подобные локальные меры недостаточны для системного решения вопроса, и более эффективной стратегией стала бы интеграция защитных механизмов непосредственно в алгоритмы искусственного интеллекта — либо путём прямого программирования, либо через управление генерируемыми данными. Наиболее перспективным подходом считается контроль над процессом синтеза генетического материала на этапе производства, поскольку ИИ-технологии продолжают распространяться, усложняя возможности надзора. «Вернуть этого джинна в сосуд невозможно. При наличии ресурсов для обходных путей получения ДНК-последовательностей, злоумышленник с высокой вероятностью сможет обучить и продвинутую языковую модель», — констатируют специалисты.
