KI og biosikkerhet: Hvorfor forskere stiller vanskeligere spørsmål
Kunstig intelligens har blitt en del av utviklingen av nye legemidler og vaksiner. Modeller som er trent på kjemi og proteinsekvenser, hjelper forskere med å snevre inn millioner av muligheter til noen få som er verdt å teste i et laboratorium. Fordelene er reelle: raskere arbeid med sjeldne sykdommer, nye antibiotika, bedre vaksiner og enzymer som bryter ned plast.
Noen av forskerne som utvikler disse verktøyene, har også offentlig reist et vanskeligere spørsmål: Hva skjer hvis de samme mulighetene blir misbrukt? Dette spørsmålet, som vanligvis kalles risiko for dobbelt bruk, er nå et vanlig tema innen biosikkerhet snarere enn en marginal bekymring.
Hvem som tar opp spørsmålet
Dr. Sean Ekins, en farmakolog med et selskap som bruker maskinlæring til å lete etter behandlinger for sjeldne og smittsomme sykdommer, var medforfatter av en artikkel fra 2022 i Nature Machine Intelligence om KI-drevet legemiddelutviklings potensial for dobbelt bruk. Artikkelen var skrevet for en sveitsisk konferanse om kontroll av kjemiske og biologiske våpen. I 2023 skrev han og kolleger i Bulletin of the Atomic Scientists om modeller for proteindesign, som de beskrev som en slags «ChatGPT for biologi».
En av medforfatterne hans, dr. Filippa Lentzos, er førsteamanuensis i vitenskap og internasjonal sikkerhet ved King's College London. Hun leder Verdens helseorganisasjons tekniske rådgivningsgruppe for ansvarlig bruk av biovitenskap og forskning med dobbelt bruksområde, og står på FNs ekspertliste for gransking av påstått bruk av kjemiske eller biologiske våpen. Poenget hennes handler om institusjoner, ikke teknologi: Vitenskapelig kompetanse forblir ikke hos teamet som utviklet den. Artikler leses overalt, programvare kopieres, og tjenester gjør laboratoriearbeid tilgjengelig for folk som ikke utviklet verktøyene.
Hvorfor oppdagelse er en del av bekymringen
Mye av biologisk forsvar bygger på gjenkjenning. Laboratorier og screeningsystemer ser etter kjente genetiske sekvenser, kjente giftstoffer og kjente kjemiske signaturer. Et stoff med et navn kan føres opp på en kontrolliste. Bekymringen forskere på dette feltet uttrykker, er at systemer som bare ser etter det som allerede er katalogisert, kan gi svakere beskyttelse over tid enn folk antar. Det er en av grunnene til at WHO, nasjonale institutter for KI-sikkerhet og selskapene som utvikler disse modellene, alle har tatt opp spørsmålet om sikkerhetstiltak.
Hva det betyr og ikke betyr for en husholdning
Ingenting av dette betyr at et angrep er på vei, og familier trenger ikke å følge med på forskningen for å ta fornuftige beslutninger. Debatten tyder på at biologiske og kjemiske risikoer ikke er et avsluttet kapittel fra det tjuende århundret; fagfolk innen medisin, sikkerhet og folkehelse behandler dem som aktuelle problemstillinger.
For en husholdning er den praktiske responsen den samme som ved enhver luftbåren fare, og det er lurt å gjøre dette før det kommer noen advarsel:
- Vit hvor du kan søke ly, og ha det klart. Se veiledningen vår om hvordan du innreder et sikkert rom.
- Ha nok vann, mat og medisiner hjemme til flere dager.
- Sørg for å ha en maske eller hette som passer hver person, med forseglede reservefiltre: den israelske 4A1 for voksne uten skjegg, Sapphire-hetten for personer med skjegg og briller, og viftedrevne hetter eller ungdomsmasker for barn.
- Følg rådene fra helsemyndighetene ved et utbrudd. De er langt viktigere enn utstyr.
Guiden vår om biologiske trusler og åndedrettsvern forklarer hva et filter gjør og ikke gjør mot smittestoffer, og Andy Weber om biologisk forsvar tar for seg den politiske siden.
Ofte stilte spørsmål
Gjør KI det enkelt å lage biologiske våpen?
Nei. Det er fortsatt vanskelig å lage og levere biologiske eller kjemiske våpen, og det overvåkes nøye. Forskernes bekymring gjelder den langsiktige utviklingen av risikoen, ikke noe hvem som helst kan gjøre i dag.
Hvem har ansvaret for å håndtere dette?
Myndigheter, WHO, rustningskontrollorganer, nasjonale institutter for KI-sikkerhet og selskapene som utvikler modellene, i samarbeid med forskere på feltet.
Endrer dette hva en familie bør kjøpe?
Nei. Den samme planen for tilfluktsrom, maskene og forsyningene dekker biologiske, kjemiske og radiologiske farer.
Om denne artikkelen: Den viser til publiserte arbeider av Sean Ekins, Filippa Lentzos og kolleger i Nature Machine Intelligence (2022) og Bulletin of the Atomic Scientists (2023), samt WHOs arbeid med forskning med dobbelt bruksområde. Disse forskerne og organisasjonene er ikke tilknyttet CBRNMASKS.COM og har ikke anbefalt selskapet eller produktene deres. Analysen og anbefalingene er utarbeidet av David Magen, grunnlegger av CBRNMASKS.COM. Tidligere forskningsoffiser for kampoperasjoner i IDFs avdeling for trening og doktrine og tidligere reserveoffiser i Israels nasjonale beredskapsmyndighet.
Primærkilder
- Fabio Urbina, Filippa Lentzos, Cédric Invernizzi, Sean Ekins — «Dobbelt bruk av KI-drevet legemiddeloppdagelse», Nature Machine Intelligence, mars 2022
- Sean Ekins, Filippa Lentzos, Max Brackmann, Cédric Invernizzi — «Det finnes en «ChatGPT» for biologi. Hva kan gå galt?» Bulletin of the Atomic Scientists, mars 2023
- WHO — Ansvarlig bruk av biovitenskap og forskning med dobbelt bruksområde
- Storbritannias AI Security Institute — Fronttrender innen KI 2025
Analyse og beredskapskonklusjoner av David Magen, grunnlegger av CBRNMASKS.COM; tidligere forskningsoffiser for kampoperasjoner i IDFs avdeling for trening og doktrine; tidligere reserveoffiser i Israels nasjonale beredskapsmyndighet. Sean Ekins, Filippa Lentzos, Nature Machine Intelligence, Bulletin of the Atomic Scientists og WHO er ikke tilknyttet CBRNMASKS.COM og har ikke anbefalt selskapet eller produktene deres.