Штучний інтелект і біобезпека: чому науковці ставлять складніші запитання

Штучний інтелект став частиною процесу розроблення нових ліків і вакцин. Моделі, навчені на хімічних даних і послідовностях білків, допомагають дослідникам звузити мільйони варіантів до кількох, які варто випробувати в лабораторії. Переваги очевидні: швидша робота над рідкісними захворюваннями, нові антибіотики, кращі вакцини та ферменти, що розщеплюють пластик.

Деякі науковці, які розробляють ці інструменти, також публічно порушили складніше питання: що станеться, якщо ті самі можливості використають зі зловмисною метою? Це питання, зазвичай відоме як ризик подвійного використання, тепер стало поширеною темою в галузі біобезпеки, а не маргінальним приводом для занепокоєння.

Хто порушує це питання

Доктор Шон Екінс, фармаколог, чия компанія використовує машинне навчання для пошуку методів лікування рідкісних та інфекційних захворювань, став співавтором статті 2022 року в Nature Machine Intelligence про потенціал подвійного використання штучного інтелекту для відкриття ліків. Статтю підготували для швейцарської конференції з контролю над хімічною та біологічною зброєю. У 2023 році він і його колеги написали в Bulletin of the Atomic Scientists про моделі конструювання білків, які вони назвали своєрідним «ChatGPT для біології».

Одна зі співавторок, докторка Філіппа Лентцос, — доцентка кафедри науки та міжнародної безпеки в Королівському коледжі Лондона. Вона очолює технічну консультативну групу Всесвітньої організації охорони здоров’я з питань відповідального використання наук про життя та досліджень подвійного призначення, а також входить до списку експертів ООН, які розслідують імовірне застосування хімічної чи біологічної зброї. Її думка стосується інституцій, а не технічних аспектів: наукові можливості не залишаються лише в команди, яка їх розробила. Наукові статті читають у всьому світі, програмне забезпечення копіюють, а послуги дають змогу проводити лабораторні дослідження людям, які не створювали потрібних інструментів.

Чому виявлення загроз викликає занепокоєння

Багато заходів біологічного захисту ґрунтуються на розпізнаванні. Лабораторії та системи скринінгу шукають відомі генетичні послідовності, токсини та хімічні ознаки. Речовину, яка має назву, можна внести до контрольного списку. Дослідники в цій галузі занепокоєні, що системи, які шукають лише те, що вже внесено до каталогів, із часом можуть виявитися менш надійним захистом, ніж вважають люди. Саме тому ВООЗ, національні інститути безпеки ШІ та компанії, які розробляють ці моделі, порушили питання запобіжних заходів.

Що це означає і чого не означає для домогосподарства

Усе це не означає, що наближається напад, і родинам не потрібно стежити за науковими дослідженнями, щоб ухвалювати розумні рішення. Однак ці дискусії свідчать про те, що біологічні та хімічні загрози не залишилися в минулому столітті; фахівці з медицини, безпеки та громадського здоров’я ставляться до них як до актуальних питань.

Для домогосподарства практичні заходи такі самі, як і за будь-якої загрози, що поширюється повітрям, і варто вжити їх до появи будь-якого попередження:

  • Знайте, де зможете сховатися, і підготуйте це місце. Дивіться наш посібник із облаштування безпечної кімнати.
  • Тримайте вдома запас води, їжі та ліків на кілька днів.
  • Підготуйте маску або капюшон, що підходить кожному, і герметично запаковані запасні фільтри: ізраїльський 4A1 для дорослих без бороди, капюшон Sapphire для людей із бородою та в окулярах, а для дітей — капюшони з примусовою подачею повітря або маски для молоді.
  • Під час спалаху захворювання дотримуйтеся вказівок органів охорони здоров’я — вони набагато важливіші за обладнання.

У нашому посібнику про біологічні загрози та засоби захисту дихання пояснюється, від чого фільтр захищає, а від чого ні, а в статті про Енді Вебера та біологічний захист розглянуто політичний аспект.

Поширені запитання

Чи полегшує ШІ виготовлення біологічної зброї?

Ні. Виготовити й доставити біологічну або хімічну зброю й далі складно, а за цим пильно стежать. Дослідників непокоїть довгостроковий напрям розвитку ризику, а не те, що будь-хто може зробити сьогодні.

Хто відповідає за управління цим?

Уряди, ВООЗ, органи з контролю над озброєннями, національні інститути безпеки ШІ та компанії, які розробляють моделі, працюючи разом із науковцями у цій галузі.

Чи змінює це те, що має купити родина?

Ні. Той самий план укриття, маски та запаси захистять від біологічних, хімічних і радіологічних загроз.

Про цю статтю: у ній ідеться про опубліковані праці Шона Екінса, Філіппи Ленцос та їхніх колег у Nature Machine Intelligence (2022) і Bulletin of the Atomic Scientists (2023), а також про роботу ВООЗ щодо досліджень подвійного призначення. Ці дослідники й організації не пов’язані з CBRNMASKS.COM і не підтримували компанію чи її продукцію. Аналіз і рекомендації підготував Девід Маген, засновник CBRNMASKS.COM. Колишній офіцер з бойових досліджень у Відділі підготовки та доктрини ЦАХАЛу та колишній офіцер резерву в Національному управлінні з надзвичайних ситуацій Ізраїлю.

Першоджерела

  • Фабіо Урбіна, Філіппа Ленцос, Седрік Інверніцці, Шон Екінс — «Подвійне використання відкриття ліків на основі штучного інтелекту», Nature Machine Intelligence, березень 2022 року
  • Шон Екінс, Філіппа Ленцос, Макс Бракманн, Седрік Інверніцці — «У біології є свій „ChatGPT“. Що може піти не так?», Bulletin of the Atomic Scientists, березень 2023 року
  • ВООЗ — відповідальне використання наук про життя та досліджень подвійного призначення
  • Інститут безпеки ШІ Великої Британії — тенденції передового ШІ у 2025 році

Висновки щодо аналізу та готовності від Девіда Магена, засновника CBRNMASKS.COM; колишнього офіцера з бойових досліджень у Відділі підготовки та доктрини ЦАХАЛу; колишнього офіцера резерву в Національному управлінні з надзвичайних ситуацій Ізраїлю. Шон Екінс, Філіппа Ленцос, Nature Machine Intelligence, Bulletin of the Atomic Scientists і ВООЗ не пов’язані з CBRNMASKS.COM і не підтримували компанію чи її продукцію.

Повернутися до блогу