Figyelmeztetés az MI-biológiai fegyverekre: amikor a gyógyszerkutatás megtanul mérget tervezni

Szerkesztői tájékoztatás: ez a cikk elsősorban a következő forrásokon alapul: Fabio Urbina, Filippa Lentzos, Cédric Invernizzi és Sean Ekins: „A mesterséges intelligenciával támogatott gyógyszerkutatás kettős felhasználása”, Nature Machine Intelligence, 2022. március; valamint Sean Ekins, Filippa Lentzos, Max Brackmann és Cédric Invernizzi: „Van egy »ChatGPT« a biológiához. Mi süthet el rosszul?”, Bulletin of the Atomic Scientists, 2023. március. A tárgyalt kísérlet számítógép által előre jelzett molekulajelölteket állított elő - fizikai vegyi anyagokat nem szintetizáltak, validáltak vagy vetettek be. A cikk nem állítja, hogy egy konkrét, mesterséges intelligenciával támogatott vegyi vagy biológiai támadás küszöbön áll. Az idézett kutatók nem támogatták a CBRNMASKS.COM-ot, illetve a cikkben bemutatott termékeket. Az elemzés, a felkészültséggel kapcsolatos következtetések és a termékajánlások kizárólag David Magen munkái.

„A legijesztőbb nem az volt, hogy a mesterséges intelligencia nem engedelmeskedett a létrehozóinak. Pontosan azt tette, amire kérték.”

A szoftvert azért fejlesztették, hogy segítsen életeket menteni. Célja ismerős volt a modern gyógyszerkutatásban dolgozók számára: több lehetséges molekulát átvizsgálni, mint amennyit egy emberi csapat valaha képes lenne megvizsgálni, elutasítani a veszélyes jelölteket, és azonosítani azokat a vegyületeket, amelyekből gyógyszer válhat. A toxicitás volt az ellenség. Ezután egy nemzetközi biztonsági konferenciára készülő kutatók feltették a kérdést: mi történne, ha a célt megfordítanák?

Nem építettek új fegyverlaboratóriumot. Egy ellenőrzött számítógépes gyakorlat során egy, jótékony gyógyszerészeti kutatásokhoz fejlesztett rendszert az ellenkező cél felé irányítottak. Kevesebb mint hat óra alatt a modell mintegy 40 000 olyan molekulajelöltet állított elő, amelyek megfeleltek a kutatók toxicitási küszöbének - köztük ismert vegyi hadviselési anyagokat és korábban nem jegyzékbe vett szerkezeteket, amelyeket a modell erősen mérgezőnek jelzett. Semmit nem szintetizáltak. Nem hoztak létre fizikai fegyvert. A szűrés azonban figyelmeztetést adott: egy, a betegeket a mérgező gyógyszerektől megvédeni tervezett eszköz zavaró könnyedséggel a toxicitás felé irányítható.

Ez az elemzés a biológiai fenyegetésekkel szembeni civil légzésvédelemről, valamint a mesterséges intelligenciáról, drónokról és a szintetikus biológiáról mint tömegpusztítófegyver-fenyegetésről szóló írásokkal együtt értelmezhető a legjobban. Együtt kapcsolják össze a fenyegetettségi képet annak gyakorlati és civil felkészültségi következményeivel.

A tudós, aki egész pályafutását gyógyszerek keresésével töltötte

Dr. Sean Ekins farmakológus, számítógépes toxikológus és a Collaborations Pharmaceuticals alapítója - ez a vállalat gépi tanulást használ gyógyszerkutatásban, ritka betegségek és fertőző betegségek vizsgálatában. Szakmai munkája olyan betegségek lehetséges kezeléseire is kiterjedt, mint az Ebola, valamint ritka gyermekgyógyászati rendellenességekre. Éppen ez a háttér teszi erőteljessé a kísérletet. A veszély nem azért jelent meg, mert egy rosszindulatú laboratórium nyilvánvalóan baljós programot épített. Egy legitim tudományos platformból bontakozott ki, amelyet azért hoztak létre, hogy a gyógyszerészeti kutatás gyorsabb és biztonságosabb legyen. A csapat éveket töltött azzal, hogy megtanítsa a számítógépeket annak előrejelzésére, vajon egy molekula hasznos lehet-e, elérheti-e valamely biológiai célpontot, és árthat-e a betegnek. A svájci Spiez Convergence konferencián - ahol kutatók, fegyverzet-ellenőrzési szakértők és biztonsági tisztviselők vizsgálták, hogyan befolyásolhatják az új technológiák a vegyi és biológiai fegyverek ellenőrzését - a meghívás arra kényszerítette Ekinst és kollégáit, hogy saját szoftverükre egy lehetséges visszaélő szemével tekintsenek. Felismerésük a következő volt: minden rendszer, amely képes egy hasznos tulajdonság optimalizálására, képes lehet egy káros tulajdonság optimalizálására is, ha megváltoztatják a célt.

A biztonsági funkció egyben térkép is volt

A gyógyszerfejlesztőknek toxicitási modellekre van szükségük ahhoz, hogy a költséges laboratóriumi és klinikai munka megkezdése előtt azonosítsák a veszélyes molekulákat. Ez azt jelenti, hogy egy kellően fejlett modell nem csupán megjelöli a veszélyt - megtanulja a veszéllyel kapcsolatos mintázatokat is. Egy, a mérgező kémiai szerkezetek felismerésére betanított rendszer segíthet a tudósoknak elkerülni ezeket. Ugyanez a tudás azonban azt is megmutathatja, hol helyezkedhet el a kémiai tér mérgező tartománya. A kutatók nem állították, hogy modelljük 40 000, azonnal használható vegyi fegyvert állított volna elő. Egy számítógépen lévő molekulaszerkezet nem bevethető hatóanyag. A valós visszaéléshez továbbra is kémiára, beszerzésre, szintézisre, tisztításra, kezelésre, tesztelésre és célba juttatásra lenne szükség - ezek mind akadályokat és felderítési lehetőségeket teremtenek. Ezek az akadályok azonban nem a természet állandó törvényei. Az automatizálás, a szerződéses szintézis, a robotizált laboratóriumok és a fejlettebb tudományos asszisztensek idővel csökkenthetik ezek egy részét. Nem az a fő aggodalom, hogy egyetlen mesterségesintelligencia-kimenet azonnal fegyverré válik. Hanem az, hogy a veszélyes jelölt eléréséhez szükséges idő, szakértelem és keresési erőfeszítés tovább csökkenhet.

Ezután a biológia is saját nyelvi modelleket kapott

2023-ban Ekins csatlakozott Dr. Filippa Lentzos biosecurity-kutatóhoz, valamint Maximilian Brackmannhoz és Cédric Invernizzihez, a svájci fegyverzet-ellenőrzési szakértőkhöz, hogy megvizsgálják azt, amit „a biológia ChatGPT-jének” neveztek. A fehérjenyelvi modellek hatalmas aminosavszekvencia-gyűjtemények mintázatait tanulják meg - ezekből az építőelemekből állnak fel a fehérjék. A több tíz- vagy százmillió fehérjeszekvencián betanított MI-rendszerek másodpercek alatt új szekvenciákat javasolhatnak. A kutatók ilyen modelleket használtak olyan fehérjék előállítására, amelyeket később legyártottak és működőképesnek találtak. A jótékony lehetőségek rendkívüliek: az MI által tervezett fehérjék gyógyszerek, vakcinák, enzimek és szennyezést lebontó eszközök létrehozásában segíthetnek. A szerzők azonban figyelmeztettek, hogy a fehérjetervezés ugyanazt a kettős felhasználású megfordítást rejti magában, mint a gyógyszerkutatás - talán még nagyobb bizonytalansággal.

A toxin, amelyet egyetlen megfigyelési lista sem ismer fel

A hagyományos biodefense részben a felismerésre támaszkodik - a laboratóriumok ismert genetikai szekvenciákat, ismert toxinokat, ismert kémiai jeleket, valamint a szerkezet és a működés közötti ismert kapcsolatokat keresik. A szerzők fogalmi példaként a ricint használták. Az észlelőrendszerek felismerhető szekvenciákat vagy az ismert toxinra jellemző szerkezeti elemeket kereshetnek. Egy jövőbeli fehérjetervező rendszer megőrizheti a káros biológiai funkciót, miközben a körülvevő szekvencia vagy szerkezet nagy részét megváltoztatja. Az így létrejövő molekula ismeretlennek tűnhet azoknak a rendszereknek, amelyeket a már katalogizált elemek felismerésére építettek. Egy ismert toxint fel lehet venni egy ellenőrzési listára. Egy új molekulának azonban még neve sem biztos, hogy van.

Dr. Filippa Lentzos a tudomány és a biztonság határán

Dr. Filippa Lentzos a londoni King's College Department of War Studies tanszékének tudomány- és nemzetközi biztonsági docense, emellett szerepet vállal a Stockholmi Nemzetközi Békekutató Intézetben és a James Martin Center for Nonproliferation Studies intézetben. Elnöke az Egészségügyi Világszervezet felelős élettudományi és kettős felhasználású kutatásokkal foglalkozó technikai tanácsadó csoportjának, továbbá az Egyesült Nemzetek Szervezetének az állítólagos vegyi vagy biológiai fegyverhasználat kivizsgálására szolgáló mechanizmusának kijelölt szakértője. Munkája egy olyan kérdést tesz fel, amelyet a tudományos intézmények gyakran elhalasztanak: nemcsak azt, hogy megvalósítható-e ez a kutatás - hanem azt is, hogyan használható fel a képesség, miután kikerül az eredeti csapat kezéből. A szoftver másolható. A kutatási tanulmányokat világszerte olvassák. A modelleket átalakítják. A kereskedelmi szolgáltatások lehetővé teszik a szintézist és a tesztelést olyanok számára is, akik nem építették az alapul szolgáló eszközöket. Egy tudós irányíthatja egyetlen kísérlet célját. A gép másodpercek alatt lehetőségeket generál.

Mit jelent az MI kockázata a civil felkészülés szempontjából?

Az MI-vel kapcsolatos biosecurity-aggodalomhoz a családoknak nem kell érteniük a fehérjék feltekeredését vagy a gépi tanulási architektúrákat. Egyetlen egyszerű tény megértésére van szükség: a tudományos képesség és a veszélyes alkalmazás közötti idő rövidülhet, miközben az adott képességhez hozzáférők száma növekedhet. Ez nem jelenti azt, hogy egy támadás küszöbön áll. Azt jelenti, hogy a felkészülés melletti érv minden egyes, technikai akadályt csökkentő lépéssel erősebbé válik. Az a család, amely még a figyelmeztetés előtt felkészül, nem azt próbálja kitalálni, hogy melyik MI-rendszert, kórokozót vagy várost érinti majd a veszély - olyan eszközökre van szüksége, amelyek a család minden tagjánál működnek, elérhető helyen vannak tárolva, és amelyeket gyors használatot lehetővé tevő gyakorlás egészít ki.

Gyakorlati családi légzésvédelmi készlet összeállítása

Felnőttek: az izraeli 4A1 Black Diamond Simplex - valódi izraeli, teljes arcvédelmet nyújtó polgári védelmi maszk panorámaellenzővel, hidratálócsővel és szabványos 40 mm-es szűrőcsatlakozással. Szakállt viselőknek: az izraeli Sapphire PAPR-kámzsa.

Gyermekek, 2-8 éves korig: a MAMTAK / Quartz gyermek PAPR-kámzsa - motoros, átlátszó kámzsa olyan kisebb gyermekek számára, akik nem tudnak megbízhatóan használni hagyományos, szorosan illeszkedő maszkot.

Csecsemők és kisgyermekek, 0-2 éves korig: a Multipro csecsemővédelmi rendszer.

Gyermekek, 8-14 éves korig: az izraeli 10A1 gyermek-gázálarc.

Szűrők: izraeli PA-12 és M80 Type 80 40 mm-es CBRN/NBC-szűrők. A gép másodpercek alatt lehetőségeket generál. Egy családnak továbbra is időre van szüksége annak eldöntéséhez, mi illik a felnőttre, mi használható a gyermeknél, mit tud viselni a szakállas felhasználó, és hol tárolják az elemeket és a szűrőket. Ezt a munkát a riasztás után már nem lehet automatizálni. A befejezéséhez legbiztonságosabb idő az, amikor a szoftvert még gyógymódok keresésére használják.

Tekintsd meg az izraeli CBRN családi csomagot, vagy a teljes választékot a CBRNMASKS.COM oldalon.

Védd meg a családodat

4A1 felnőtteknek, Sapphire szakállt viselőknek, MAMTAK / Quartz 2-8 éves korig, Multipro csecsemőknek. Lezárt 40 mm-es szűrők minden maszkhoz. Izraeli CBRN családi csomag a teljes háztartás számára. CBRNMASKS.COM - izraeli polgári védelmi felszerelés, 2009 óta szolgálatban.

Elsődleges források

Az elemzés és a felkészültséggel kapcsolatos következtetések David Magen munkái - korábbi harci eseményeket vizsgáló tiszt, az IDF Műveleti Igazgatóságának Doktrína- és Kiképzési Osztálya; korábbi törzstiszt a Nemzeti Vészhelyzeti Hatóságnál, a helyi hatóságok folytonossági tervezéséért felelt a haifai régióban. A CBRNMASKS.COM alapítója 2009 óta. Sean Ekins, Filippa Lentzos, a Nature Machine Intelligence, a Bulletin of the Atomic Scientists és a WHO nem áll kapcsolatban a CBRNMASKS.COM-mal, és nem támogatták a vállalatot vagy termékeit.

Vissza a blogba