ИИ и биобезопасность: почему учёные задают всё более сложные вопросы

Искусственный интеллект стал частью разработки новых лекарств и вакцин. Модели, обученные на данных о химических веществах и последовательностях белков, помогают исследователям отобрать из миллионов вариантов несколько, достойных лабораторных испытаний. Польза очевидна: ускорение исследований редких заболеваний, разработка новых антибиотиков и более эффективных вакцин, а также создание ферментов, разлагающих пластик.

Некоторые учёные, разрабатывающие эти инструменты, также публично задали более тревожный вопрос: что произойдёт, если те же возможности будут использованы во вред? Этот вопрос, обычно называемый риском двойного назначения, теперь активно обсуждается в сфере биобезопасности, а не считается маргинальным опасением.

Кто поднимает этот вопрос

Доктор Шон Экинс, фармаколог, чья компания использует машинное обучение для поиска методов лечения редких и инфекционных заболеваний, стал соавтором статьи 2022 года в журнале Nature Machine Intelligence о потенциале ИИ в разработке лекарств двойного назначения. Статья была написана для швейцарской конференции по контролю над химическим и биологическим оружием. В 2023 году он и его коллеги написали в Bulletin of the Atomic Scientists о моделях конструирования белков, которые они назвали своего рода «ChatGPT для биологии».

Одна из соавторов его работы, доктор Филиппа Ленцос, занимает должность старшего преподавателя по вопросам науки и международной безопасности в Королевском колледже Лондона. Она возглавляет техническую консультативную группу Всемирной организации здравоохранения по ответственному использованию наук о жизни и исследованиям двойного назначения, а также входит в список экспертов ООН по расследованию предполагаемого применения химического или биологического оружия. Её аргумент касается скорее институтов, чем технологий: научные возможности не остаются только у команды, которая их создала. Научные статьи читают по всему миру, программное обеспечение копируют, а сервисы предоставляют лабораторные услуги людям, которые сами не создавали эти инструменты.

Почему выявление стало частью проблемы

Биологическая защита во многом основана на распознавании. Лаборатории и системы скрининга выявляют известные генетические последовательности, токсины и химические признаки. Если у вещества есть название, его можно внести в контрольный список. Исследователи в этой области опасаются, что системы, которые ищут только то, что уже занесено в каталоги, со временем могут оказаться менее надёжной защитой, чем принято считать. В частности, поэтому ВОЗ, национальные институты безопасности ИИ и компании, разрабатывающие такие модели, занимаются вопросом мер защиты.

Что это значит и чего не значит для домочадцев

Всё это не означает, что грядёт нападение, и семьям не нужно следить за научными дискуссиями, чтобы принимать разумные решения. Но эти обсуждения показывают, что биологические и химические угрозы не остались в прошлом веке: специалисты в области медицины, безопасности и общественного здравоохранения всерьёз рассматривают их и сегодня.

Для домочадцев практические меры те же, что и при любой угрозе распространения опасных веществ по воздуху. Их стоит принять заранее, до получения предупреждения:

  • Заранее решите, где будете укрываться, и подготовьте это место. См. наше руководство по обустройству безопасной комнаты.
  • Держите дома запас воды, еды и лекарств как минимум на несколько дней.
  • Подберите маску или капюшон по размеру для каждого члена семьи и запасные фильтры в герметичной упаковке: израильскую 4A1 для взрослых без бороды, капюшон Sapphire для людей с бородой и в очках, а для детей — капюшоны с принудительной подачей воздуха или детские маски.
  • Во время вспышки заболевания следуйте указаниям органов здравоохранения — они гораздо важнее снаряжения.

В нашем руководстве по биологическим угрозам и средствам защиты органов дыхания объясняется, от каких микробов фильтр защищает, а от каких нет. В статье Энди Вебера о биологической защите рассматривается соответствующая политика.

Часто задаваемые вопросы

Упрощает ли ИИ создание биологического оружия?

Нет. Создать и доставить биологическое или химическое оружие по-прежнему трудно, а за такими действиями ведётся строгий контроль. Учёных беспокоит долгосрочное развитие угрозы, а не то, что кто-либо может сделать сегодня.

Кто отвечает за управление этим?

Правительства, ВОЗ, организации по контролю над вооружениями, национальные институты безопасности ИИ и компании, разрабатывающие модели, совместно с учёными в этой области.

Меняет ли всё это то, что должна купить семья?

Нет. Один и тот же план укрытия, маски и запасы подходят для защиты от биологических, химических и радиологических угроз.

Об этой статье: в ней рассматриваются опубликованные работы Шона Экинса, Филиппы Ленцос и их коллег в Nature Machine Intelligence (2022) и Bulletin of the Atomic Scientists (2023), а также материалы ВОЗ об исследованиях двойного назначения. Эти исследователи и организации не связаны с CBRNMASKS.COM и не одобряли компанию или её продукцию. Анализ и рекомендации принадлежат Дэвиду Магену, основателю CBRNMASKS.COM. Он был офицером по исследованиям боевого применения в Управлении подготовки и доктрины Армии обороны Израиля и офицером запаса Национального управления по чрезвычайным ситуациям Израиля.

Основные источники

  • Фабио Урбина, Филиппа Ленцос, Седрик Инверницци, Шон Экинс — «Двойное назначение искусственного интеллекта в разработке лекарств», Nature Machine Intelligence, март 2022 года
  • Шон Экинс, Филиппа Ленцос, Макс Бракманн, Седрик Инверницци — «В биологии есть свой „ChatGPT“. Что может пойти не так?», Bulletin of the Atomic Scientists, март 2023 года
  • ВОЗ — Ответственное использование наук о жизни и исследований двойного назначения
  • Институт безопасности ИИ Великобритании — Тенденции развития передового ИИ, 2025 год

Выводы по анализу и готовности Дэвида Магена, основателя CBRNMASKS.COM; бывшего офицера по исследованиям боевого применения в Управлении подготовки и доктрины Армии обороны Израиля; бывшего офицера запаса Национального управления по чрезвычайным ситуациям Израиля. Шон Экинс, Филиппа Ленцос, журнал Nature Machine Intelligence, Bulletin of the Atomic Scientists и ВОЗ не связаны с CBRNMASKS.COM и не одобряли компанию или её продукцию.

Вернуться к блогу