Įspėjimas apie dirbtinio intelekto biologinius ginklus: kai vaistų atradimas išmoksta kurti nuodus

Redakcinė pastaba: šis straipsnis daugiausia parengtas remiantis Fabio Urbinos, Filippa Lentzos, Cédric Invernizzi ir Sean Ekins straipsniu „Dual Use of Artificial-Intelligence-Powered Drug Discovery“, paskelbtu žurnale „Nature Machine Intelligence“ 2022 m. kovą, taip pat Sean Ekins, Filippa Lentzos, Max Brackmann ir Cédric Invernizzi straipsniu „There's a 'ChatGPT' for Biology. What Could Go Wrong?“, paskelbtu leidinyje „Bulletin of the Atomic Scientists“ 2023 m. kovą. Aptariamo eksperimento metu buvo sugeneruoti kompiuterio numatyti molekulių kandidatai - jie nebuvo susintetinti, patvirtinti ar panaudoti kaip fizinės cheminės medžiagos. Šiame straipsnyje neteigiama, kad konkretus dirbtiniu intelektu paremtas cheminis ar biologinis išpuolis yra neišvengiamas. Cituojami tyrėjai nereklamavo CBRNMASKS.COM ar jokio šiame straipsnyje aprašyto produkto. Analizę, pasirengimo išvadas ir produktų rekomendacijas savarankiškai parengė David Magen.

„Baisiausia buvo ne tai, kad dirbtinis intelektas nepakluso savo kūrėjams. Jis padarė tiksliai tai, ko jie prašė.“

Programinė įranga buvo sukurta siekiant padėti išgelbėti gyvybes. Jos paskirtis buvo gerai pažįstama visiems, dirbantiems šiuolaikinių vaistų kūrimo srityje: išnagrinėti daugiau galimų molekulių, nei kada nors galėtų patikrinti žmonių komanda, atmesti pavojingus kandidatus ir nustatyti junginius, kurie galėtų tapti vaistais. Toksiškumas buvo priešas. Tuomet tyrėjai, rengdamiesi tarptautinei saugumo konferencijai, paklausė, kas nutiktų, jei tikslas būtų pakeistas į priešingą.

Jie nekūrė naujos ginklų laboratorijos. Kontroliuojamo kompiuterinio pratimo metu jie nukreipė sistemą, sukurtą naudingiems farmaciniams tyrimams, priešinga kryptimi. Per mažiau nei šešias valandas modelis sugeneravo maždaug 40 000 molekulių kandidatų, atitinkančių tyrėjų nustatytą toksiškumo ribą, įskaitant žinomus cheminio karo agentus ir anksčiau neįtrauktas struktūras, kurias modelis numatė esant labai toksiškas. Niekas nebuvo susintetinta. Joks fizinis ginklas nebuvo sukurtas. Tačiau patikra pateikė įspėjimą: priemonę, sukurtą pacientams nuo toksinių vaistų apsaugoti, buvo galima nerimą keliančiai lengvai nukreipti į toksiškumo paiešką.

Šią analizę geriausia skaityti kartu su civiline kvėpavimo takų apsauga nuo biologinių grėsmių ir DI, dronais ir sintetine biologija kaip masinio naikinimo ginklų grėsme. Kartu šie tekstai susieja grėsmių vaizdą su praktinėmis ir civilinio pasirengimo pasekmėmis.

Mokslininkas, visą karjerą ieškojęs vaistų

Dr. Sean Ekins yra farmakologas, kompiuterinės toksikologijos specialistas ir „Collaborations Pharmaceuticals“ įkūrėjas - ši bendrovė naudoja mašininį mokymąsi vaistų kūrimui, retoms ir infekcinėms ligoms tirti. Jo profesinis darbas apėmė galimus tokių ligų kaip Ebola ir retų vaikų ligų gydymo būdus. Būtent dėl šio pagrindo eksperimentas yra toks paveikus. Pavojus kilo ne todėl, kad piktavališka laboratorija sukūrė akivaizdžiai grėsmingą programą. Jis kilo iš teisėtos mokslinės platformos, sukurtos farmacijos tyrimams pagreitinti ir padaryti juos saugesnius. Komanda ne vienus metus mokė kompiuterius numatyti, ar molekulė gali būti naudinga, ar ji gali pasiekti biologinį taikinį ir ar gali pakenkti pacientui. Šveicarijoje vykusioje „Spiez Convergence“ konferencijoje, kurioje tyrėjai, ginklų kontrolės specialistai ir saugumo pareigūnai nagrinėjo, kaip naujos technologijos gali paveikti cheminio ir biologinio ginklo kontrolę, kvietimas privertė Ekinsą ir jo kolegas pažvelgti į savo programinę įrangą galimo netinkamo naudotojo akimis. Jų išvada buvo tokia: kiekviena sistema, gebanti optimizuoti naudingą savybę, pakeitus tikslą gali būti pajėgi optimizuoti ir žalingą savybę.

Saugos funkcija taip pat buvo žemėlapis

Vaistų kūrėjams reikia toksiškumo modelių, kad jie galėtų nustatyti pavojingas molekules dar neprasidėjus brangiems laboratoriniams ir klinikiniams darbams. Tai reiškia, kad pakankamai pajėgus modelis ne tik pažymi pavojų - jis išmoksta su pavojumi susijusius dėsningumus. Sistema, išmokyta atpažinti toksines chemines struktūras, gali padėti mokslininkams jų išvengti. Tos pačios žinios gali parodyti, kur gali būti toksinė cheminės erdvės sritis. Tyrėjai neteigė, kad jų modelis sugeneravo 40 000 paruoštų naudoti cheminių ginklų. Molekulinė struktūra kompiuteryje nėra panaudojamas agentas. Norint piktavališkai panaudoti realiame pasaulyje, vis tiek reikėtų chemijos žinių, įsigijimo, sintezės, gryninimo, tvarkymo, bandymų ir paskleidimo - kiekvienas iš šių etapų sukuria kliūčių ir galimybių aptikti veiklą. Tačiau šios kliūtys nėra nekintantys gamtos dėsniai. Automatizavimas, užsakomoji sintezė, robotizuotos laboratorijos ir geresni moksliniai asistentai ilgainiui gali kai kurias iš jų sumažinti. Susirūpinimą kelia ne tai, kad vienas DI rezultatas akimirksniu tampa ginklu. Susirūpinimą kelia tai, kad laikas, kompetencija ir paieškos pastangos, kurių reikia pavojingam kandidatui pasiekti, gali ir toliau mažėti.

Tada biologija gavo savus kalbos modelius

2023 m. Ekinsas kartu su biologinio saugumo tyrėja dr. Filippa Lentzos ir Šveicarijos ginklų kontrolės specialistais Maximilianu Brackmannu bei Cédric Invernizzi nagrinėjo tai, ką jie pavadino „ChatGPT biologijai“. Baltymų kalbos modeliai mokosi dėsningumų iš milžiniškų aminorūgščių sekų rinkinių - biologinės abėcėlės, iš kurios sudaryti baltymai. DI sistemos, išmokytos naudojant dešimtis ar šimtus milijonų baltymų sekų, gali per kelias sekundes pasiūlyti naujas sekas. Tyrėjai naudojo tokius modelius baltymams generuoti, o vėliau jie buvo pagaminti ir įrodyta, kad veikia. Naudinga tokių sistemų nauda yra nepaprastai didelė: DI sukurti baltymai gali padėti kurti vaistus, vakcinas, fermentus ir taršą skaidančias priemones. Tačiau autoriai perspėjo, kad baltymų kūrimas turi tą pačią dvejopo naudojimo inversiją kaip ir vaistų kūrimas - galbūt su dar didesniu neapibrėžtumu.

Toksinas, kurio neatpažįsta joks stebėjimo sąrašas

Tradicinė biologinė gynyba iš dalies grindžiama atpažinimu - laboratorijos ieško žinomų genetinių sekų, žinomų toksinų, žinomų cheminių požymių ir žinomų struktūros bei funkcijos sąsajų. Autoriai riciną pateikė kaip konceptualų pavyzdį. Aptikimo sistemos gali ieškoti atpažįstamų sekų ar struktūrinių požymių, siejamų su žinomu toksinu. Ateities baltymų kūrimo sistema galėtų išsaugoti žalingą biologinę funkciją, pakeisdama didžiąją dalį aplinkinės sekos ar struktūros. Gauta molekulė galėtų atrodyti neatpažįstama sistemoms, sukurtoms atpažinti tai, kas jau kataloguota. Žinomą toksiną galima įtraukti į kontrolinį sąrašą. Nauja molekulė dar gali neturėti pavadinimo.

Dr. Filippa Lentzos ties mokslo ir saugumo riba

Dr. Filippa Lentzos yra mokslo ir tarptautinio saugumo dėstytoja-researcher Londono karališkojo koledžo Karo studijų katedroje, taip pat dirba Stokholmo tarptautiniame taikos tyrimų institute ir Jameso Martino neplatinimo tyrimų centre. Ji pirmininkauja Pasaulio sveikatos organizacijos Techninei patariamajai grupei dėl atsakingo gyvybės mokslų ir dvejopo naudojimo tyrimų taikymo bei yra Jungtinių Tautų mechanizmo, naudojamo tariamam cheminių ar biologinių ginklų panaudojimui tirti, ekspertų sąraše. Jos darbas kelia klausimą, kurį mokslinės institucijos dažnai atideda: ne tik ar šis tyrimas gali būti atliktas, bet ir kaip gebėjimas galėtų būti panaudotas, kai jis paliks pradinės komandos rankas. Programinė įranga kopijuojama. Moksliniai straipsniai skaitomi visame pasaulyje. Modeliai pritaikomi. Komercinės paslaugos suteikia galimybę sintetinti ir bandyti medžiagas žmonėms, kurie nesukūrė pagrindinių priemonių. Mokslininkas gali kontroliuoti vieno eksperimento paskirtį. Mašina per kelias sekundes sugeneruoja daugybę galimybių.

Ką DI rizika reiškia civiliniam pasirengimui

DI keliama biologinio saugumo grėsmė nereikalauja, kad šeimos suprastų baltymų susilankstymą ar mašininio mokymosi architektūras. Reikia suprasti vieną paprastą faktą: laikas nuo mokslinio gebėjimo atsiradimo iki pavojingo panaudojimo gali trumpėti, o žmonių, galinčių pasiekti šį gebėjimą, skaičius gali augti. Tai nereiškia, kad išpuolis neišvengiamas. Tai reiškia, kad pasirengimo argumentas stiprėja su kiekvienu techninės kliūties sumažėjimu. Šeimai, kuri pasirengia prieš pasirodant įspėjimui, nereikia spėlioti, kuri DI sistema, kuris patogenas ar kuris miestas bus susijęs su grėsme - jai reikia kiekvienam šeimos nariui tinkamos įrangos, laikomos lengvai pasiekiamoje vietoje, ir mokymų, leidžiančių ja greitai pasinaudoti.

Praktiško šeimos kvėpavimo takų apsaugos rinkinio sudarymas

Suaugusiesiems: Izraelio 4A1 „Black Diamond Simplex“ - autentiška Izraelio civilinės gynybos viso veido kaukė su panoraminiu skydeliu, hidratacijos vamzdeliu ir standartine 40 mm filtro jungtimi. Barzdotiems naudotojams: Izraelio „Sapphire“ PAPR gaubtas.

Vaikams nuo 2 iki 8 metų: „MAMTAK“ / „Quartz“ vaikiškas PAPR gaubtas - elektrinis skaidrus gaubtas mažesniems vaikams, kurie negali patikimai naudoti įprastos priglundančios kaukės.

Kūdikiams ir mažiems vaikams nuo 0 iki 2 metų: „Multipro“ kūdikių apsaugos sistema.

Vaikams nuo 8 iki 14 metų: Izraelio 10A1 vaikiška dujokaukė.

Filtrai: Izraelio PA-12 ir M80 Type 80 40 mm CBRN/NBC filtrai. Mašina per kelias sekundes gali sugeneruoti daugybę galimybių. Tačiau šeimai vis tiek reikia laiko nuspręsti, kas tinka suaugusiajam, kas tinka vaikui, ką gali dėvėti barzdotas naudotojas ir kur laikomos baterijos bei filtrai. Po pavojaus signalo šio darbo automatizuoti neįmanoma. Saugiausia jį atlikti tada, kai programinė įranga dar naudojama vaistams ieškoti.

Peržiūrėkite Izraelio CBRN šeimos rinkinį arba visą asortimentą svetainėje CBRNMASKS.COM.

Apsaugokite savo šeimą

4A1 suaugusiesiems, „Sapphire“ barzdotiems naudotojams, „MAMTAK“ / „Quartz“ 2-8 metų vaikams, „Multipro“ kūdikiams. Sandarūs 40 mm filtrai kiekvienai kaukei. Izraelio CBRN šeimos rinkinys visam namų ūkiui. CBRNMASKS.COM - Izraelio civilinės gynybos įranga, tiekiama nuo 2009 m.

Pagrindiniai šaltiniai

Analizę ir pasirengimo išvadas parengė David Magen - buvęs IDF Operacijų direktorato Kovinių tyrimų pareigūnas, Doktrinos ir mokymo skyrius; buvęs Nacionalinės ekstremaliųjų situacijų valdybos štabo pareigūnas, atsakingas už vietos valdžios institucijų veiklos tęstinumo planavimą Haifos regione. CBRNMASKS.COM įkūrėjas nuo 2009 m. Sean Ekinsas, Filippa Lentzos, „Nature Machine Intelligence“, „Bulletin of the Atomic Scientists“ ir PSO nėra susiję su CBRNMASKS.COM ir nereklamavo bendrovės ar jos produktų.

Grįžti į tinklaraštį