Brīdinājums par mākslīgā intelekta bioloģiskajiem ieročiem: kad zāļu atklāšana iemācās izstrādāt indi

Redakcijas atruna: šis raksts galvenokārt balstās uz Fabio Urbina, Filippa Lentzos, Cédric Invernizzi un Sean Ekins darbu “Dual Use of Artificial-Intelligence-Powered Drug Discovery”, kas publicēts žurnālā Nature Machine Intelligence 2022. gada martā, kā arī uz Sean Ekins, Filippa Lentzos, Max Brackmann un Cédric Invernizzi darbu “There's a 'ChatGPT' for Biology. What Could Go Wrong?”, kas publicēts Bulletin of the Atomic Scientists 2023. gada martā. Aprakstītajā eksperimentā tika ģenerēti datorā prognozēti molekulu kandidāti - tie netika sintezēti, validēti vai izmantoti fizisku ķīmisko aģentu izveidei. Šis raksts neapgalvo, ka konkrēts ar mākslīgo intelektu iespējots ķīmisks vai bioloģisks uzbrukums ir nenovēršams. Citētie pētnieki nav atbalstījuši CBRNMASKS.COM vai kādu šajā rakstā aprakstīto produktu. Analīzi, sagatavotības secinājumus un produktu ieteikumus ir sagatavojis tikai David Magen.

"Visbiedējošākais nebija tas, ka mākslīgais intelekts nepaklausīja saviem radītājiem. Tas izdarīja tieši to, ko viņi lūdza."

Programmatūra bija izstrādāta, lai palīdzētu glābt dzīvības. Tās mērķis bija pazīstams ikvienam, kas strādā mūsdienu zāļu atklāšanas jomā: pārmeklēt vairāk iespējamo molekulu, nekā cilvēku komanda jebkad spētu izpētīt, noraidīt bīstamos kandidātus un identificēt savienojumus, kas varētu kļūt par zālēm. Toksicitāte bija ienaidnieks. Pēc tam pētnieki, gatavojoties starptautiskai drošības konferencei, jautāja, kas notiktu, ja mērķis tiktu mainīts uz pretējo.

Viņi neveidoja jaunu ieroču laboratoriju. Kontrolētā skaitļošanas eksperimentā viņi novirzīja sistēmu, kas bija izstrādāta derīgai farmaceitiskajai izpētei, pretēja mērķa sasniegšanai. Mazāk nekā sešu stundu laikā modelis radīja aptuveni 40 000 molekulu kandidātu, kas atbilda pētnieku noteiktajam toksicitātes slieksnim, tostarp zināmus ķīmiskās karadarbības aģentus un iepriekš neuzskaitītas struktūras, kuras modelis prognozēja kā ļoti toksiskas. Nekas netika sintezēts. Neviens fizisks ierocis netika izveidots. Taču pārbaude bija devusi brīdinājumu: rīku, kas izstrādāts pacientu aizsardzībai pret toksiskām zālēm, varēja satraucoši viegli novirzīt toksicitātes meklēšanai.

Šo analīzi vislabāk lasīt kopā ar civilās elpceļu aizsardzību pret bioloģiskajiem draudiem un mākslīgo intelektu, droniem un sintētisko bioloģiju kā masu iznīcināšanas ieroču draudu. Kopā tie sasaista draudu ainu ar tās praktiskajām un civilās sagatavotības sekām.

Zinātnieks, kurš savu karjeru bija veltījis zāļu meklēšanai

Dr. Sean Ekins ir farmakologs, skaitļošanas toksikologs un Collaborations Pharmaceuticals dibinātājs - uzņēmuma, kas izmanto mašīnmācīšanos zāļu atklāšanā, reto slimību un infekcijas slimību izpētē. Viņa profesionālais darbs ir ietvēris potenciālus ārstēšanas līdzekļus tādām slimībām kā Ebola un retas bērnu slimības. Tieši šis fons padara eksperimentu tik iedarbīgu. Briesmas neradās tāpēc, ka ļaunprātīga laboratorija būtu izveidojusi acīmredzami ļaunu programmu. Tās radās no likumīgas zinātniskas platformas, kas bija izveidota, lai farmaceitisko izpēti padarītu ātrāku un drošāku. Komanda bija pavadījusi gadus, mācot datoriem prognozēt, vai molekula varētu būt noderīga, vai tā spētu sasniegt bioloģisku mērķi un vai tā varētu kaitēt pacientam. Spiez Convergence konferencē Šveicē, kur pētnieki, bruņojuma kontroles speciālisti un drošības amatpersonas pētīja, kā jaunās tehnoloģijas varētu ietekmēt ķīmisko un bioloģisko ieroču kontroli, uzaicinājums piespieda Ekinsu un viņa kolēģus paskatīties uz savu programmatūru no potenciāla ļaunprātīga lietotāja skatpunkta. Viņu atziņa: ikviena sistēma, kas spēj optimizēt labvēlīgu īpašību, var būt spējīga optimizēt arī kaitīgu īpašību, ja tiek mainīts mērķis.

Drošības funkcija bija arī karte

Zāļu izstrādātājiem ir nepieciešami toksicitātes modeļi, lai identificētu bīstamas molekulas, pirms sākas dārgs laboratorijas un klīniskais darbs. Tas nozīmē, ka pietiekami spējīgs modelis ne tikai marķē briesmas - tas apgūst ar briesmām saistītus modeļus. Sistēma, kas apmācīta atpazīt toksiskas ķīmiskās struktūras, var palīdzēt zinātniekiem no tām izvairīties. Tās pašas zināšanas var atklāt, kur varētu atrasties ķīmiskās telpas toksiskais reģions. Pētnieki neapgalvoja, ka viņu modelis būtu radījis 40 000 lietošanai gatavu ķīmisko ieroču. Molekulāra struktūra datorā nav izmantojams aģents. Lai to ļaunprātīgi izmantotu reālajā pasaulē, joprojām būtu nepieciešama ķīmija, sagāde, sintēze, attīrīšana, apstrāde, testēšana un piegāde - katrs no šiem posmiem rada šķēršļus un iespējas atklāšanai. Tomēr šie šķēršļi nav nemainīgi dabas likumi. Automatizācija, līgumražošana, robotizētas laboratorijas un labāki zinātniskie asistenti laika gaitā var dažus no tiem samazināt. Rūpes nav par to, ka viens mākslīgā intelekta iznākums uzreiz kļūst par ieroci. Runa ir par to, ka laiks, zināšanas un meklēšanas darbs, kas nepieciešams, lai sasniegtu bīstamu kandidātu, var turpināt samazināties.

Pēc tam bioloģija ieguva savus valodas modeļus

2023. gadā Ekins kopā ar bio-drošības pētnieci Dr. Filippa Lentzos un Šveices bruņojuma kontroles speciālistiem Maximilian Brackmann un Cédric Invernizzi pētīja to, ko viņi nodēvēja par “ChatGPT bioloģijai”. Olbaltumvielu valodas modeļi apgūst likumsakarības milzīgās aminoskābju secību kolekcijās - bioloģiskajā alfabētā, no kura veidotas olbaltumvielas. Mākslīgā intelekta sistēmas, kas apmācītas ar desmitiem vai simtiem miljonu olbaltumvielu secību, var radīt jaunas secības dažu sekunžu laikā. Pētnieki ir izmantojuši šādus modeļus, lai ģenerētu olbaltumvielas, kuras vēlāk tika izgatavotas un pierādīja savu darbību. Ieguvumi ir ārkārtīgi daudzsološi: mākslīgā intelekta izstrādātas olbaltumvielas varētu palīdzēt radīt zāles, vakcīnas, fermentus un rīkus piesārņojuma noārdīšanai. Taču autori brīdināja, ka olbaltumvielu izstrāde ietver tādu pašu divējāda lietojuma apvērsumu kā zāļu atklāšana - iespējams, ar vēl lielāku nenoteiktību.

Toksīns, ko neviena uzraudzības sistēma neatpazīst

Tradicionālā bioloģiskā aizsardzība daļēji balstās uz atpazīšanu - laboratorijas meklē zināmas ģenētiskās secības, zināmus toksīnus, zināmus ķīmiskos parakstus un zināmas attiecības starp struktūru un funkciju. Autori kā konceptuālu piemēru izmantoja ricīnu. Atklāšanas sistēmas var meklēt atpazīstamas secības vai strukturālās pazīmes, kas saistītas ar zināmo toksīnu. Nākotnes olbaltumvielu izstrādes sistēma varētu saglabāt kaitīgu bioloģisko funkciju, vienlaikus izmainot lielu daļu apkārtējās secības vai struktūras. Iegūtā molekula varētu izskatīties nepazīstama sistēmām, kas izveidotas, lai atpazītu to, kas jau ir katalogizēts. Zināmu toksīnu var iekļaut kontroles sarakstā. Jaunai molekulai vēl var nebūt nosaukuma.

Dr. Filippa Lentzos uz zinātnes un drošības robežas

Dr. Filippa Lentzos ir zinātnes un starptautiskās drošības lektore King's College London Kara studiju nodaļā, kā arī ieņem amatus Stokholmas Starptautiskā miera pētniecības institūtā un James Martin Center for Nonproliferation Studies. Viņa vada Pasaules Veselības organizācijas tehnisko konsultatīvo grupu par atbildīgu dzīvības zinātņu un divējāda lietojuma pētījumu izmantošanu, kā arī ir eksperte Apvienoto Nāciju Organizācijas mehānismā, ko izmanto, lai izmeklētu iespējamu ķīmisko vai bioloģisko ieroču izmantošanu. Viņas darbs uzdod jautājumu, ko zinātniskās institūcijas bieži atliek: ne tikai vai šo pētījumu var veikt, bet arī kā šī spēja varētu tikt izmantota, kad tā vairs neatrodas sākotnējās komandas rokās? Programmatūra tiek kopēta. Pētījumu darbi tiek lasīti visā pasaulē. Modeļi tiek pielāgoti. Komerciālie pakalpojumi padara sintēzi un testēšanu pieejamu cilvēkiem, kuri nav izveidojuši pamatā esošos rīkus. Zinātnieks var kontrolēt viena eksperimenta mērķi. Mašīna dažu sekunžu laikā rada iespējas.

Ko mākslīgā intelekta radītais risks nozīmē civilajai sagatavotībai

Ar mākslīgo intelektu saistītās bioloģiskās drošības bažas neprasa ģimenēm izprast olbaltumvielu telpisko struktūru vai mašīnmācīšanās arhitektūras. Ir jāsaprot viens vienkāršs fakts: laiks starp zinātniskas spējas rašanos un tās bīstamu izmantošanu var saīsināties, un to cilvēku skaits, kuriem šī spēja varētu būt pieejama, var pieaugt. Tas nenozīmē, ka uzbrukums ir nenovēršams. Tas nozīmē, ka sagatavotības arguments kļūst spēcīgāks ar katru tehniskā šķēršļa samazinājumu. Ģimenei, kas sagatavojas pirms brīdinājuma saņemšanas, nav jāmin, kura mākslīgā intelekta sistēma, kurš patogēns vai kura pilsēta - tai nepieciešams aprīkojums, kas darbojas katram ģimenes loceklim, glabāts vietā, kur tam var piekļūt, un apmācība, kas ļauj to ātri izmantot.

Praktiska ģimenes elpceļu aizsardzības komplekta izveide

Pieaugušajiem: Izraēlas 4A1 Black Diamond Simplex - oriģināla Izraēlas pilnas sejas civilās aizsardzības maska ar panorāmas vizieri, dzeršanas caurulīti un standarta 40 mm filtra savienojumu. Lietotājiem ar bārdu: Izraēlas Sapphire PAPR kapuce.

Bērniem vecumā no 2 līdz 8 gadiem: MAMTAK / Quartz bērnu PAPR kapuce - ar gaisu darbināma caurspīdīga kapuce jaunākiem bērniem, kuri nespēj uzticami lietot parastu cieši pieguļošu masku.

Zīdaiņiem un maziem bērniem vecumā no 0 līdz 2 gadiem: Multipro zīdaiņu aizsardzības sistēma.

Bērniem vecumā no 8 līdz 14 gadiem: Izraēlas 10A1 bērnu gāzmaska.

Filtri: Izraēlas PA-12 un M80 Type 80 40 mm CBRN/NBC filtri. Mašīna var radīt iespējas dažu sekunžu laikā. Ģimenei joprojām ir nepieciešams laiks, lai izlemtu, kas der pieaugušajam, kas der bērnam, ko var valkāt lietotājs ar bārdu un kur tiek glabātas baterijas un filtri. Pēc trauksmes signāla šo darbu vairs nevar automatizēt. Drošākais laiks to paveikt ir tad, kamēr programmatūra vēl tiek izmantota ārstēšanas līdzekļu meklēšanai.

Apskatiet Izraēlas CBRN ģimenes komplektu vai pilnu klāstu vietnē CBRNMASKS.COM.

Aizsargājiet savu ģimeni

4A1 pieaugušajiem, Sapphire lietotājiem ar bārdu, MAMTAK / Quartz bērniem vecumā no 2 līdz 8 gadiem, Multipro zīdaiņiem. Noslēgti 40 mm filtri katrai maskai. Izraēlas CBRN ģimenes komplekts visai mājsaimniecībai. CBRNMASKS.COM - Izraēlas civilās aizsardzības aprīkojums kopš 2009. gada.

Galvenie avoti

Analīzi un sagatavotības secinājumus ir sagatavojis David Magen - bijušais Izraēlas Aizsardzības spēku Operāciju direktorāta Kaujas izmeklēšanas virsnieks, Doktrīnas un apmācības nodaļa; bijušais štāba virsnieks Nacionālajā ārkārtas situāciju pārvaldē, vietējo pašvaldību darbības nepārtrauktības plānošana Haifas reģionā. CBRNMASKS.COM dibinātājs kopš 2009. gada. Sean Ekins, Filippa Lentzos, Nature Machine Intelligence, Bulletin of the Atomic Scientists un PVO nav saistīti ar CBRNMASKS.COM un nav atbalstījuši uzņēmumu vai tā produktus.

Atgriezties emuārā