Hoiatus tehisintellekti abil loodud biorelvade eest: kui ravimite avastamine õpib mürke kavandama

Toimetaja märkus: see artikkel põhineb peamiselt järgmistel allikatel: Fabio Urbina, Filippa Lentzos, Cédric Invernizzi ja Sean Ekins, „Dual Use of Artificial-Intelligence-Powered Drug Discovery”, Nature Machine Intelligence, märts 2022; ning Sean Ekins, Filippa Lentzos, Max Brackmann ja Cédric Invernizzi, „There's a 'ChatGPT' for Biology. What Could Go Wrong?”, Bulletin of the Atomic Scientists, märts 2023. Kirjeldatud katse käigus loodi arvuti prognoositud molekulaarseid kandidaate - neid ei sünteesitud, valideeritud ega kasutatud füüsiliste keemiliste mõjuritena. See artikkel ei väida, et konkreetne tehisintellekti abil teostatav keemiline või bioloogiline rünnak oleks peatne. Viidatud teadlased ei ole toetanud CBRNMASKS.COM-i ega ühtki selles artiklis kirjeldatud toodet. Analüüsi, valmisolekut puudutavad järeldused ja tootesoovitused pärinevad üksnes David Magenilt.

„Kõige hirmutavam polnud see, et tehisintellekt ei kuuletunud oma loojatele. See tegi täpselt seda, mida temalt paluti.”

Tarkvara oli loodud selleks, et aidata päästa elusid. Selle eesmärk oli tuttav kõigile, kes tegelevad tänapäevase ravimite väljatöötamisega: otsida läbi rohkem võimalikke molekule, kui ükski inimmeeskond eales uurida suudaks, kõrvaldada ohtlikud kandidaadid ja leida ühendid, millest võiksid saada ravimid. Toksilisus oli vaenlane. Seejärel küsisid rahvusvaheliseks julgeolekukonverentsiks valmistunud teadlased, mis juhtuks siis, kui eesmärk pöörataks vastupidiseks.

Nad ei ehitanud uut relvalaborit. Kontrollitud arvutusliku harjutuse käigus suunasid nad kasuliku farmaatsiauuringu jaoks välja töötatud süsteemi vastupidise eesmärgi poole. Vähem kui kuue tunniga koostas mudel ligikaudu 40 000 kandidaatmolekuli, mis vastasid teadlaste toksilisuslävendile - nende hulgas tuntud keemilise sõja ained ja varem loetlemata struktuurid, mida mudel ennustas väga toksilisteks. Midagi ei sünteesitud. Füüsilist relva ei loodud. Kuid sõelumine andis hoiatuse: patsientide kaitsmiseks toksiliste ravimite eest loodud tööriista sai häiriva kergusega suunata toksilisuse poole.

Seda analüüsi tasub lugeda koos artiklitega tsiviilisikute hingamisteede kaitse kohta bioloogiliste ohtude eest ja tehisintellekti, droonide ja sünteetilise bioloogia kohta kui massihävitusrelvade ohust. Koos seovad need ohupildi selle tegevuslike ja tsiviilvalmisolekuga seotud mõjudega.

Teadlane, kes oli kogu oma karjääri jooksul ravimeid otsinud

Dr Sean Ekins on farmakoloog, arvutusliku toksikoloogia spetsialist ja Collaborations Pharmaceuticals asutaja - ettevõte kasutab masinõpet ravimite, haruldaste haiguste ja nakkushaiguste uurimisel. Tema ametialane töö on hõlmanud võimalikke ravimeetodeid sellistele haigustele nagu Ebola ja haruldased lastehaigused. Just see taust muudab katse mõjusaks. Oht ei tekkinud seetõttu, et pahatahtlik labor oleks loonud ilmselgelt kurjakuulutava programmi. See tekkis seaduslikust teadusplatvormist, mis loodi farmaatsiauuringute kiiremaks ja ohutumaks muutmiseks. Meeskond oli aastaid õpetanud arvuteid ennustama, kas molekul võib olla kasulik, kas see jõuab bioloogilise sihtmärgini ja kas see võib patsienti kahjustada. Šveitsis toimunud Spiezi konvergentsikonverentsil - kus teadlased, relvastuskontrolli spetsialistid ja julgeolekuametnikud uurisid, kuidas uued tehnoloogiad võivad mõjutada keemia- ja bioloogiliste relvade kontrolli - sundis kutse Ekinsit ja tema kolleege vaatlema oma tarkvara võimaliku väärkasutaja pilgu läbi. Nende järeldus oli järgmine: iga süsteem, mis suudab optimeerida kasulikku omadust, võib eesmärgi muutmisel olla võimeline optimeerima ka kahjulikku omadust.

Ohutusfunktsioon oli ühtlasi kaart

Ravimite arendajad vajavad toksilisusmudeleid, et tuvastada ohtlikud molekulid enne kulukate labori- ja kliiniliste tööde algust. See tähendab, et piisavalt võimekas mudel ei märgista ainult ohtu - see õpib ära tundma ohuga seotud mustreid. Mürgiseid keemilisi struktuure tuvastama õpetatud süsteem võib aidata teadlastel neist eemalduda. Sama teadmine võib näidata, kus võib paikneda keemilise ruumi toksiline piirkond. Teadlased ei väitnud, et nende mudel oleks loonud 40 000 kasutusvalmis keemiarelva. Arvutis olev molekulaarstruktuur ei ole kasutatav mõjur. Tegelik väärkasutus eeldaks endiselt keemiat, hankimist, sünteesi, puhastamist, käitlemist, testimist ja kohaletoimetamist - igaüks neist loob takistusi ja avastamisvõimalusi. Need takistused ei ole siiski muutumatud loodusseadused. Automatiseerimine, lepinguline süntees, robotlaborid ja paremad teadusabilised võivad mõnda neist aja jooksul vähendada. Mure ei seisne selles, et üks tehisintellekti väljund muutub hetkega relvaks. Mure seisneb selles, et ohtliku kandidaadini jõudmiseks vajalik aeg, asjatundlikkus ja otsingutöö võivad jätkuvalt väheneda.

Seejärel sai bioloogia oma keelemudelid

2023. aastal ühines Ekins biojulgeoleku-uurija dr Filippa Lentzose ning Šveitsi relvastuskontrolli spetsialistide Maximilian Brackmanni ja Cédric Invernizziga, et uurida seda, mida nad nimetasid „bioloogia ChatGPT-ks”. Valkude keelemudelid õpivad mustreid tohututest aminohappejärjestuste kogumitest - bioloogilisest tähestikust, millest valgud koosnevad. Kümnete või sadade miljonite valgujärjestuste põhjal treenitud tehisintellektisüsteemid võivad pakkuda uusi järjestusi sekunditega. Teadlased on selliseid mudeleid kasutanud valkude loomiseks, mida hiljem toodeti ja näidati toimivatena. Kasulikud võimalused on erakordsed: tehisintellekti loodud valgud võivad aidata valmistada ravimeid, vaktsiine ja ensüüme ning luua vahendeid saaste lagundamiseks. Autorid hoiatasid siiski, et valkude kavandamine sisaldab ravimite avastamisega sama kahesuguse kasutuse ümberpööramist - võib-olla veelgi suurema ebakindlusega.

Toksiin, mida ükski jälgimisnimekiri ei tunne

Traditsiooniline biokaitse sõltub osaliselt äratundmisest - laborid otsivad tuntud geneetilisi järjestusi, tuntud toksiine, tuntud keemilisi signatuure ning tuntud seoseid struktuuri ja funktsiooni vahel. Autorid kasutasid kontseptuaalse näitena ritsiini. Tuvastussüsteemid võivad otsida tuntud toksiiniga seotud äratuntavaid järjestusi või struktuurseid tunnuseid. Tulevane valkude kavandamise süsteem võib säilitada kahjuliku bioloogilise funktsiooni, muutes samal ajal suure osa ümbritsevast järjestusest või struktuurist. Saadud molekul võib näida tundmatu süsteemidele, mis on loodud ära tundma juba kataloogitud aineid. Tuntud toksiini saab kanda kontrollnimekirja. Uuel molekulil ei pruugi veel nime olla.

Dr Filippa Lentzos teaduse ja julgeoleku piiril

Dr Filippa Lentzos on Londoni King's College'i sõjateaduse osakonna teadus- ja rahvusvahelise julgeoleku lektor, kellel on rollid Stockholmi Rahvusvahelise Rahu-uuringute Instituudis ja James Martini tuumarelva leviku tõkestamise uuringute keskuses. Ta juhib Maailma Terviseorganisatsiooni tehnilist nõuanderühma, mis tegeleb bioteaduste ja kahesuguse kasutusega uuringute vastutustundliku kasutamisega, ning kuulub ÜRO mehhanismi ekspertide nimekirja, mida kasutatakse väidetava keemia- või bioloogiliste relvade kasutamise uurimiseks. Tema töö esitab küsimuse, mida teadusasutused sageli edasi lükkavad: mitte ainult kas seda uurimistööd saab teha, vaid kuidas võidakse seda võimekust kasutada pärast seda, kui see on algse meeskonna käest lahkunud. Tarkvara kopeeritakse. Teadusartikleid loetakse kogu maailmas. Mudeleid kohandatakse. Kommertsteenused muudavad sünteesi ja testimise kättesaadavaks inimestele, kes alusvahendeid ei ehitanud. Teadlane saab kontrollida ühe katse eesmärki. Masin loob võimalusi sekunditega.

Mida tähendab tehisintellekti risk tsiviilvalmisolekule

Tehisintellektiga seotud biojulgeolekuoht ei eelda, et pered mõistaksid valkude voltimist või masinõppe arhitektuure. Tuleb mõista üht lihtsat fakti: teadusliku võimekuse ja ohtliku rakenduse vaheline ajavahemik võib lüheneda ning inimeste arv, kellel on sellele võimekusele juurdepääs, võib suureneda. See ei tähenda, et rünnak oleks peatne. See tähendab, et valmisoleku argument muutub iga tehnilise takistuse järkjärgulise vähenemisega tugevamaks. Pere, kes valmistub enne hoiatuse saabumist, ei pea ära arvama, milline tehisintellektisüsteem, milline patogeen või milline linn on küsimuse all - vaja on varustust, mis toimib iga pereliikme puhul, mida hoitakse kättesaadavas kohas ja mille kasutamiseks on olemas kiiret tegutsemist võimaldav väljaõpe.

Praktilise pere hingamisteede kaitse komplekti koostamine

Täiskasvanud: Iisraeli 4A1 Black Diamond Simplex - ehtne Iisraeli tsiviilkaitse täisnäomask panoraamvisiiri, joogitoru ja standardse 40 mm filtriühendusega. Habemega kasutajatele: Iisraeli Sapphire'i PAPR-kapuut.

Lapsed vanuses 2-8: MAMTAK / Quartz laste PAPR-kapuut - mootoriga läbipaistev kapuut väiksematele lastele, kes ei suuda tavapärast tihedalt liibuvat maski usaldusväärselt kasutada.

Imikud ja väikelapsed vanuses 0-2: Multipro imikute kaitsesüsteem.

Lapsed vanuses 8-14: Iisraeli 10A1 laste gaasimask.

Filtrid: Iisraeli PA-12 ja M80 Type 80 40 mm CBRN/NBC-filtrid. Masin võib luua võimalusi sekunditega. Perel on siiski vaja aega, et otsustada, mis sobib täiskasvanule, mis töötab lapse puhul, mida habemega kasutaja saab kanda ning kus hoitakse patareisid ja filtreid. Seda tööd ei saa pärast häiret automatiseerida. Kõige turvalisem aeg selle lõpetamiseks on siis, kui tarkvara kasutatakse veel ravivõimaluste otsimiseks.

Tutvuge Iisraeli CBRN-i perekomplektiga või kogu tootevalikuga aadressil CBRNMASKS.COM.

Kaitske oma peret

4A1 täiskasvanutele, Sapphire habemega kasutajatele, MAMTAK / Quartz vanusele 2-8, Multipro imikutele. Suletud 40 mm filtrid iga maski jaoks. Iisraeli CBRN-i perekomplekt kogu majapidamisele. CBRNMASKS.COM - Iisraeli tsiviilkaitsevarustus, kasutuses alates 2009. aastast.

Peamised allikad

Analüüsi ja valmisolekut puudutavad järeldused pärinevad David Magenilt - endine Iisraeli kaitseväe operatiivdirektoraadi lahingujuurdluse ohvitser, doktriini ja väljaõppe osakond; endine staabiohvitser riiklikus hädaolukordade ametis, kohalike omavalitsuste toimepidevuse planeerimine Haifa piirkonnas. CBRNMASKS.COM-i asutaja alates 2009. aastast. Sean Ekins, Filippa Lentzos, Nature Machine Intelligence, Bulletin of the Atomic Scientists ja WHO ei ole seotud CBRNMASKS.COM-iga ega ole ettevõtet või selle tooteid toetanud.

Tagasi blogisse