ИИ и биобезопасность: почему учёные задают всё более сложные вопросы
Искусственный интеллект стал частью разработки новых лекарств и вакцин. Модели, обученные на данных о химических веществах и последовательностях белков, помогают исследователям отобрать из миллионов вариантов несколько, достойных лабораторных испытаний. Польза очевидна: ускорение исследований редких заболеваний, разработка новых антибиотиков и более эффективных вакцин, а также создание ферментов, разлагающих пластик.
Некоторые учёные, разрабатывающие эти инструменты, также публично задали более тревожный вопрос: что произойдёт, если те же возможности будут использованы во вред? Этот вопрос, обычно называемый риском двойного назначения, теперь активно обсуждается в сфере биобезопасности, а не считается маргинальным опасением.
Кто поднимает этот вопрос
Доктор Шон Экинс, фармаколог, чья компания использует машинное обучение для поиска методов лечения редких и инфекционных заболеваний, стал соавтором статьи 2022 года в журнале Nature Machine Intelligence о потенциале ИИ в разработке лекарств двойного назначения. Статья была написана для швейцарской конференции по контролю над химическим и биологическим оружием. В 2023 году он и его коллеги написали в Bulletin of the Atomic Scientists о моделях конструирования белков, которые они назвали своего рода «ChatGPT для биологии».
Одна из соавторов его работы, доктор Филиппа Ленцос, занимает должность старшего преподавателя по вопросам науки и международной безопасности в Королевском колледже Лондона. Она возглавляет техническую консультативную группу Всемирной организации здравоохранения по ответственному использованию наук о жизни и исследованиям двойного назначения, а также входит в список экспертов ООН по расследованию предполагаемого применения химического или биологического оружия. Её аргумент касается скорее институтов, чем технологий: научные возможности не остаются только у команды, которая их создала. Научные статьи читают по всему миру, программное обеспечение копируют, а сервисы предоставляют лабораторные услуги людям, которые сами не создавали эти инструменты.
Почему выявление стало частью проблемы
Биологическая защита во многом основана на распознавании. Лаборатории и системы скрининга выявляют известные генетические последовательности, токсины и химические признаки. Если у вещества есть название, его можно внести в контрольный список. Исследователи в этой области опасаются, что системы, которые ищут только то, что уже занесено в каталоги, со временем могут оказаться менее надёжной защитой, чем принято считать. В частности, поэтому ВОЗ, национальные институты безопасности ИИ и компании, разрабатывающие такие модели, занимаются вопросом мер защиты.
Что это значит и чего не значит для домочадцев
Всё это не означает, что грядёт нападение, и семьям не нужно следить за научными дискуссиями, чтобы принимать разумные решения. Но эти обсуждения показывают, что биологические и химические угрозы не остались в прошлом веке: специалисты в области медицины, безопасности и общественного здравоохранения всерьёз рассматривают их и сегодня.
Для домочадцев практические меры те же, что и при любой угрозе распространения опасных веществ по воздуху. Их стоит принять заранее, до получения предупреждения:
- Заранее решите, где будете укрываться, и подготовьте это место. См. наше руководство по обустройству безопасной комнаты.
- Держите дома запас воды, еды и лекарств как минимум на несколько дней.
- Подберите маску или капюшон по размеру для каждого члена семьи и запасные фильтры в герметичной упаковке: израильскую 4A1 для взрослых без бороды, капюшон Sapphire для людей с бородой и в очках, а для детей — капюшоны с принудительной подачей воздуха или детские маски.
- Во время вспышки заболевания следуйте указаниям органов здравоохранения — они гораздо важнее снаряжения.
В нашем руководстве по биологическим угрозам и средствам защиты органов дыхания объясняется, от каких микробов фильтр защищает, а от каких нет. В статье Энди Вебера о биологической защите рассматривается соответствующая политика.
Часто задаваемые вопросы
Упрощает ли ИИ создание биологического оружия?
Нет. Создать и доставить биологическое или химическое оружие по-прежнему трудно, а за такими действиями ведётся строгий контроль. Учёных беспокоит долгосрочное развитие угрозы, а не то, что кто-либо может сделать сегодня.
Кто отвечает за управление этим?
Правительства, ВОЗ, организации по контролю над вооружениями, национальные институты безопасности ИИ и компании, разрабатывающие модели, совместно с учёными в этой области.
Меняет ли всё это то, что должна купить семья?
Нет. Один и тот же план укрытия, маски и запасы подходят для защиты от биологических, химических и радиологических угроз.
Об этой статье: в ней рассматриваются опубликованные работы Шона Экинса, Филиппы Ленцос и их коллег в Nature Machine Intelligence (2022) и Bulletin of the Atomic Scientists (2023), а также материалы ВОЗ об исследованиях двойного назначения. Эти исследователи и организации не связаны с CBRNMASKS.COM и не одобряли компанию или её продукцию. Анализ и рекомендации принадлежат Дэвиду Магену, основателю CBRNMASKS.COM. Он был офицером по исследованиям боевого применения в Управлении подготовки и доктрины Армии обороны Израиля и офицером запаса Национального управления по чрезвычайным ситуациям Израиля.
Основные источники
- Фабио Урбина, Филиппа Ленцос, Седрик Инверницци, Шон Экинс — «Двойное назначение искусственного интеллекта в разработке лекарств», Nature Machine Intelligence, март 2022 года
- Шон Экинс, Филиппа Ленцос, Макс Бракманн, Седрик Инверницци — «В биологии есть свой „ChatGPT“. Что может пойти не так?», Bulletin of the Atomic Scientists, март 2023 года
- ВОЗ — Ответственное использование наук о жизни и исследований двойного назначения
- Институт безопасности ИИ Великобритании — Тенденции развития передового ИИ, 2025 год
Выводы по анализу и готовности Дэвида Магена, основателя CBRNMASKS.COM; бывшего офицера по исследованиям боевого применения в Управлении подготовки и доктрины Армии обороны Израиля; бывшего офицера запаса Национального управления по чрезвычайным ситуациям Израиля. Шон Экинс, Филиппа Ленцос, журнал Nature Machine Intelligence, Bulletin of the Atomic Scientists и ВОЗ не связаны с CBRNMASKS.COM и не одобряли компанию или её продукцию.