Microsoft и ведущие биологи выявили уязвимости в проверке ИИ?сгенерированных генетических последовательностей

Генеративный ИИ становится всё более мощным инструментом в биологии, позволяя создавать новые версии базовых молекул. Однако, как предупреждают учёные, лёгкость доступа к этим технологиям несёт в себе риски, требующие немедленной разработки мер биобезопасности.

Ещё в 2024 году лауреат Нобелевской премии Дэвид Бейкер (Университет Вашингтона), создатель модели RoseTTAFold (предсказывает структуру белка на основе последовательности аминокислот) и генетик Джордж Черч (Гарвард) подчеркнули необходимость внедрения «штрихкодов» в генетические последовательности новых белков для отслеживания их происхождения.

Однако, как показало недавнее исследование Microsoft, этих мер недостаточно. ИИ-сгенерированные генетические последовательности часто обходят существующие системы биобезопасности. Программы, анализирующие ДНК, не распознают опасные последовательности, если они содержат «безопасные» фрагменты.

Авторы новой работы призывают к созданию комплексной системы биобезопасности до того, как произойдёт что-то непоправимое. ИИ уже способен проектировать не только белки, но и РНК, а также целые клетки и ткани. Модели RFdiffusion2 и PocketGen, к примеру, позволяют создавать белки на атомном уровне для конкретных задач, например, для запуска биологических реакций или связывания с лекарствами. РНК-терапия — перспективное направление, не затрагивающее генетический код, однако разработка РНК-препаратов сложна из-за особенностей формирования трёхмерной структуры молекул.

Учёные продемонстрировали, что алгоритмы могут быть использованы для создания опасных биологических материалов. В одном из экспериментов ИИ-модели проектировали токсичные белки, которые успешно обходили системы биобезопасности. В другом случае алгоритм, разработанный для поиска антивирусных молекул, предложил известный нейротоксин в качестве потенциального лекарства.

Для решения этих проблем необходимы строгие правила и контроль на всех этапах работы с ИИ в биологии. В Великобритании уже выпущены рекомендации по проверке синтеза ДНК, а в США биобезопасность включена в план действий при разработке ИИ-моделей для биотехнологий. Технологические компании также заявляют о намерениях исключить опасные вирусные последовательности из баз данных для обучения моделей и проводить строгую проверку новых разработок.

Авторы призывают к созданию многоуровневой системы защиты, включающей контроль доступа к данным и алгоритмов, контролируемое обучение моделей и стресс-тестирование для выявления уязвимостей. По их мнению, эффективная система биобезопасности должна быть «живым стражем», способным адаптироваться к новым угрозам.

 Источник: singularityhub