MI és biológiai biztonság: miért tesznek fel a tudósok egyre nehezebb kérdéseket

A mesterséges intelligencia mára részévé vált az új gyógyszerek és vakcinák tervezésének. A kémiai adatokon és fehérjeszekvenciákon betanított modellek segítenek a kutatóknak a lehetőségek millióit néhány, laboratóriumi tesztelésre érdemes jelöltre szűkíteni. Az előnyök kézzelfoghatók: gyorsabb kutatás a ritka betegségek terén, új antibiotikumok, jobb vakcinák, valamint műanyagot lebontó enzimek.

Néhány, ilyen eszközöket fejlesztő tudós nyilvánosan egy nehezebb kérdést is felvetett: mi történik, ha ugyanezekkel a képességekkel visszaélnek? Ezt a kérdést, amelyet általában kettős felhasználású kockázatnak neveznek, ma már a biobiztonság egyik fő témájaként kezelik, nem pedig szélsőséges aggodalomként.

Kik vetik fel ezt a kérdést?

Dr. Sean Ekins, egy olyan vállalat farmakológusa, amely gépi tanulással keres kezeléseket ritka és fertőző betegségekre, társszerzője volt a Nature Machine Intelligence folyóiratban 2022-ben megjelent tanulmánynak, amely a mesterséges intelligenciával támogatott gyógyszerkutatás kettős felhasználású lehetőségeit vizsgálta, és egy vegyi és biológiai fegyverzetkorlátozással foglalkozó svájci konferenciára készült. 2023-ban kollégáival a Bulletin of the Atomic Scientists folyóiratban írtak a fehérjetervező modellekről, amelyeket a biológia „ChatGPT-jének” neveztek.

Társszerzője, Dr. Filippa Lentzos a londoni King's College tudományos és nemzetközi biztonsági tanszékének docense. Elnöke az Egészségügyi Világszervezet élettudományok és kettős felhasználású kutatások felelős alkalmazásával foglalkozó technikai tanácsadó csoportjának, valamint tagja az ENSZ vegyi vagy biológiai fegyverek feltételezett alkalmazásának kivizsgálására létrehozott szakértői névjegyzékének. Álláspontja intézményi, nem technikai jellegű: a tudományos képesség nem marad annál a csapatnál, amely kifejlesztette. A tanulmányokat mindenütt olvassák, a szoftvereket lemásolják, a szolgáltatások pedig laboratóriumi munkát tesznek elérhetővé olyanok számára is, akik nem fejlesztették ki az eszközöket.

Miért ad okot aggodalomra az észlelés?

A biológiai védekezés nagy része a felismerésen alapul. A laboratóriumok és szűrőrendszerek ismert genetikai szekvenciákat, ismert toxinokat és ismert vegyi anyagokra jellemző mintázatokat keresnek. Egy megnevezett anyagot fel lehet venni egy ellenőrző listára. A terület kutatói arra figyelmeztetnek, hogy azok a rendszerek, amelyek csak a már katalogizált dolgokat keresik, idővel gyengébb védelmet nyújthatnak, mint azt az emberek gondolják; ez az egyik oka annak, hogy a WHO, az országos MI-biztonsági intézetek és az ilyen modelleket fejlesztő vállalatok is foglalkoznak a védőintézkedések kérdésével.

Mit jelent, és mit nem jelent mindez egy háztartás számára?

Mindez nem jelenti azt, hogy támadás közeleg, és a családoknak nem kell követniük a tudományos vitát ahhoz, hogy észszerű döntéseket hozzanak. A vita azonban arra utal, hogy a biológiai és vegyi kockázatok nem a huszadik század lezárt fejezetei; az orvostudomány, a biztonság és a közegészségügy területén dolgozó szakemberek valós kérdésekként kezelik őket.

Egy háztartás számára a gyakorlati teendők ugyanazok, mint bármilyen levegőben terjedő veszély esetén, és érdemes még azelőtt elvégezni őket, hogy bármilyen figyelmeztetés érkezne:

  • Tudja, hol húzódna meg, és tartsa készenlétben a helyet. Olvassa el útmutatónkat a biztonságos helyiség kialakításáról.
  • Tartson otthon elegendő vizet, élelmiszert és gyógyszert több napra.
  • Legyen minden családtagnak megfelelő méretű maszkja vagy kapucnija, lezárt tartalékszűrőkkel: a izraeli 4A1 a simára borotvált felnőtteknek, a Sapphire kapucni a szakállasoknak és szemüvegeseknek, a gyermekeknek pedig motoros kapucni vagy ifjúsági maszk.
  • Járványkitörés esetén kövesse a közegészségügyi előírásokat, amelyek sokkal fontosabbak a felszerelésnél.

Az biológiai fenyegetésekről és a légzésvédelemről szóló útmutatónk elmagyarázza, hogy a szűrő mit tesz és mit nem tesz a kórokozók ellen, az Andy Weber biodefense-ről szóló írása pedig a szakpolitikai vonatkozásokat tárgyalja.

Gyakran ismételt kérdések

Könnyebbé teszi a MI a biológiai fegyverek előállítását?

Nem. Biológiai vagy vegyi fegyvert előállítani és célba juttatni továbbra is nehéz, és szigorúan ellenőrzik. A kutatók aggodalma a kockázat hosszú távú alakulására vonatkozik, nem arra, amit ma bárki megtehet.

Ki felel ennek a kezeléséért?

A kormányok, a WHO, a fegyverzet-ellenőrzési szervezetek, a nemzeti MI-biztonsági intézetek, valamint a modelleket fejlesztő vállalatok, a szakterület tudósaival együttműködve.

Változtat ez bármit azon, hogy mit kellene vásárolnia egy családnak?

Nem. Ugyanaz az óvóhelyi terv, maszkok és készletek nyújtanak védelmet a biológiai, vegyi és radiológiai veszélyek ellen.

A cikkről: Sean Ekins, Filippa Lentzos és munkatársaiknak a Nature Machine Intelligence-ben (2022) és a Bulletin of the Atomic Scientistsben (2023) megjelent munkáira, valamint a WHO kettős felhasználású kutatással kapcsolatos munkájára hivatkozik. Ezek a kutatók és szervezetek nem állnak kapcsolatban a CBRNMASKS.COM-mal, és nem támogatták azt vagy termékeit. Az elemzést és az ajánlásokat David Magen, a CBRNMASKS.COM alapítója készítette. Korábban harci kutatótiszt volt az IDF Kiképzési és Doktrinális Részlegénél, valamint tartalékos tiszt Izrael Nemzeti Vészhelyzeti Hatóságánál.

Elsődleges források

  • Fabio Urbina, Filippa Lentzos, Cédric Invernizzi, Sean Ekins — „A mesterséges intelligenciával támogatott gyógyszerkutatás kettős felhasználása”, Nature Machine Intelligence, 2022. március
  • Sean Ekins, Filippa Lentzos, Max Brackmann, Cédric Invernizzi — „Van egy biológiára szabott ChatGPT. Mi romolhat el?” Bulletin of the Atomic Scientists, 2023. március
  • WHO — Az élettudományok felelős alkalmazása és a kettős felhasználású kutatás
  • Egyesült Királyság MI-biztonsági intézete — A határterületi MI trendjei, 2025

Elemzés és felkészültségi következtetések David Magentől, a CBRNMASKS.COM alapítójától; korábbi harci kutatótiszt az IDF Kiképzési és Doktrinális Részlegénél; Izrael Nemzeti Vészhelyzeti Hatóságának korábbi tartalékos tisztje. Sean Ekins, Filippa Lentzos, a Nature Machine Intelligence, a Bulletin of the Atomic Scientists és a WHO nem áll kapcsolatban a CBRNMASKS.COM-mal, és nem támogatta a vállalatot vagy termékeit.

Vissza a bloghoz