Sztuczna inteligencja i bezpieczeństwo biologiczne: dlaczego naukowcy zadają coraz trudniejsze pytania
Sztuczna inteligencja stała się częścią procesu projektowania nowych leków i szczepionek. Modele trenowane na danych chemicznych i sekwencjach białek pomagają naukowcom zawęzić miliony możliwości do kilku, które warto sprawdzić w laboratorium. Korzyści są realne: szybsze prace nad rzadkimi chorobami, nowe antybiotyki, lepsze szczepionki i enzymy rozkładające plastik.
Niektórzy naukowcy tworzący te narzędzia publicznie poruszyli również trudniejszą kwestię: co się stanie, jeśli ktoś wykorzysta te same możliwości w niewłaściwy sposób? To pytanie, zwykle określane jako ryzyko podwójnego zastosowania, jest obecnie powszechnie poruszanym tematem w dziedzinie bezpieczeństwa biologicznego, a nie obawą na marginesie debaty.
Kto podnosi ten temat
Dr Sean Ekins, farmakolog, którego firma wykorzystuje uczenie maszynowe do poszukiwania metod leczenia rzadkich chorób zakaźnych, jest współautorem artykułu z 2022 roku opublikowanego w Nature Machine Intelligence na temat potencjału sztucznej inteligencji do podwójnego zastosowania w odkrywaniu leków. Artykuł przygotowano na szwajcarską konferencję poświęconą kontroli zbrojeń chemicznych i biologicznych. W 2023 roku on i jego współpracownicy napisali w Bulletin of the Atomic Scientists o modelach projektowania białek, które opisali jako swego rodzaju „ChatGPT dla biologii”.
Jedna ze współautorek, dr Filippa Lentzos, jest wykładowczynią w dziedzinie nauki i bezpieczeństwa międzynarodowego w King's College London. Przewodniczy grupie doradczej technicznej Światowej Organizacji Zdrowia ds. odpowiedzialnego wykorzystania nauk przyrodniczych i badań o podwójnym zastosowaniu, a także należy do grona ekspertów ONZ badających domniemane użycie broni chemicznej lub biologicznej. Jej uwagi dotyczą instytucji, a nie techniki: zdolności naukowe nie pozostają wyłącznie w rękach zespołu, który je opracował. Artykuły są czytane na całym świecie, oprogramowanie kopiowane, a usługi umożliwiają prowadzenie prac laboratoryjnych osobom, które nie stworzyły potrzebnych narzędzi.
Dlaczego wykrywanie budzi obawy
W dużej mierze obrona biologiczna opiera się na rozpoznawaniu. Laboratoria i systemy przesiewowe wyszukują znane sekwencje genetyczne, znane toksyny i znane sygnatury chemiczne. Substancję, która ma nazwę, można umieścić na liście kontrolnej. Badacze z tej dziedziny obawiają się, że systemy wykrywające wyłącznie to, co już skatalogowano, mogą z czasem okazać się słabszym zabezpieczeniem, niż się powszechnie zakłada. To jeden z powodów, dla których WHO, krajowe instytuty ds. bezpieczeństwa AI oraz firmy rozwijające te modele zajęły się kwestią zabezpieczeń.
Co to oznacza, a czego nie oznacza dla gospodarstwa domowego
Nie oznacza to, że zbliża się atak, ani że rodziny muszą śledzić doniesienia naukowe, by podejmować rozsądne decyzje. Debata sugeruje jednak, że zagrożenia biologiczne i chemiczne nie są zamkniętym rozdziałem XX wieku; poważni specjaliści z dziedziny medycyny, bezpieczeństwa i zdrowia publicznego traktują je jako aktualne kwestie.
W gospodarstwie domowym praktyczne postępowanie jest takie samo jak w przypadku każdego zagrożenia przenoszonego drogą powietrzną i warto je wdrożyć, zanim pojawi się jakiekolwiek ostrzeżenie:
- Wiedz, gdzie schronisz się w razie zagrożenia, i przygotuj to miejsce. Zobacz nasz poradnik urządzania bezpiecznego pomieszczenia.
- Miej w domu zapas wody, żywności i leków wystarczający na kilka dni.
- Zadbaj o dobrze dopasowaną maskę lub kaptur dla każdej osoby i szczelnie zapakowane filtry zapasowe: izraelska maska 4A1 dla dorosłych bez zarostu, kaptur Sapphire dla osób z brodą i noszących okulary oraz kaptury z wymuszonym przepływem powietrza lub maski dla młodzieży i dzieci.
- Podczas epidemii stosuj się do zaleceń służb zdrowia publicznego, które są znacznie ważniejsze niż sprzęt.
Nasz przewodnik po zagrożeniach biologicznych i ochronie dróg oddechowych wyjaśnia, przed czym filtr chroni, a przed czym nie chroni w przypadku drobnoustrojów, a artykuł Andy'ego Webera o biodefensie omawia kwestie polityczne.
Często zadawane pytania
Czy AI ułatwia produkcję broni biologicznej?
Nie. Wytwarzanie i dostarczanie broni biologicznej lub chemicznej nadal jest trudne i podlega ścisłemu nadzorowi. Obawy badaczy dotyczą długofalowego kierunku rozwoju zagrożenia, a nie czegoś, co ktokolwiek może zrobić dzisiaj.
Kto odpowiada za zarządzanie tym zagadnieniem?
Rządy, WHO, organizacje zajmujące się kontrolą zbrojeń, krajowe instytuty bezpieczeństwa AI oraz firmy opracowujące modele — we współpracy z naukowcami z tej dziedziny.
Czy to wszystko zmienia to, co powinna kupić rodzina?
Nie. Ten sam plan schronienia, maski i zapasy zapewniają ochronę przed zagrożeniami biologicznymi, chemicznymi i radiologicznymi.
O tym artykule: omawia opublikowane prace Seana Ekinsa, Filippy Lentzos i współpracowników w Nature Machine Intelligence (2022) oraz Bulletin of the Atomic Scientists (2023), a także prace WHO dotyczące badań podwójnego zastosowania. Wymienieni badacze i organizacje nie są związani z CBRNMASKS.COM ani nie poparli firmy ani jej produktów. Analizę i zalecenia opracował David Magen, założyciel CBRNMASKS.COM. Były oficer ds. badań bojowych w Wydziale Szkolenia i Doktryn Sił Obronnych Izraela oraz były oficer rezerwy w izraelskim Krajowym Urzędzie ds. Sytuacji Nadzwyczajnych.
Źródła pierwotne
- Fabio Urbina, Filippa Lentzos, Cédric Invernizzi, Sean Ekins — „Podwójne zastosowanie odkrywania leków z wykorzystaniem sztucznej inteligencji”, Nature Machine Intelligence, marzec 2022 r.
- Sean Ekins, Filippa Lentzos, Max Brackmann, Cédric Invernizzi — „W biologii istnieje «ChatGPT». Co może pójść nie tak?”, Bulletin of the Atomic Scientists, marzec 2023 r.
- WHO — Odpowiedzialne wykorzystanie nauk przyrodniczych i badań podwójnego zastosowania
- Brytyjski Instytut Bezpieczeństwa AI — Trendy w zakresie zaawansowanej AI w 2025 r.
Wnioski dotyczące analizy i gotowości, opracowane przez Davida Magena, założyciela CBRNMASKS.COM; byłego oficera ds. badań bojowych w Wydziale Szkolenia i Doktryn Sił Obronnych Izraela; byłego oficera rezerwy w izraelskim Krajowym Urzędzie ds. Sytuacji Nadzwyczajnych. Sean Ekins, Filippa Lentzos, Nature Machine Intelligence, Bulletin of the Atomic Scientists i WHO nie są związani z CBRNMASKS.COM ani nie poparli firmy ani jej produktów.