AI en bioveiligheid: waarom wetenschappers kritischere vragen stellen

Kunstmatige intelligentie speelt inmiddels een rol bij het ontwerpen van nieuwe medicijnen en vaccins. Modellen die zijn getraind op chemische gegevens en eiwitsequenties helpen onderzoekers miljoenen mogelijkheden terug te brengen tot een handvol opties die in een laboratorium getest kunnen worden. De voordelen zijn reëel: sneller onderzoek naar zeldzame ziekten, nieuwe antibiotica, betere vaccins en enzymen die plastic afbreken.

Sommige wetenschappers die deze tools ontwikkelen, hebben ook publiekelijk een moeilijkere vraag gesteld: wat gebeurt er als dezelfde mogelijkheden worden misbruikt? Die vraag, meestal dual-use-risico genoemd, is inmiddels een gangbaar onderwerp binnen de bioveiligheid en geen zorg van een kleine groep meer.

Wie dit aan de orde stelt

Dr. Sean Ekins, een farmacoloog wiens bedrijf machinaal leren gebruikt om behandelingen voor zeldzame en infectieziekten te vinden, was coauteur van een artikel uit 2022 in Nature Machine Intelligence over het dual-usepotentieel van AI-gestuurde medicijnontwikkeling. Het artikel was geschreven voor een Zwitserse conferentie over chemische en biologische wapenbeheersing. In 2023 schreven hij en zijn collega's in het Bulletin of the Atomic Scientists over modellen voor eiwitontwerp, die ze omschreven als een soort 'ChatGPT voor biologie'.

Een van zijn coauteurs, dr. Filippa Lentzos, is Reader in Science and International Security aan King's College London. Ze is voorzitter van de technische adviesgroep van de Wereldgezondheidsorganisatie voor verantwoord gebruik van de levenswetenschappen en dual-useonderzoek, en staat op de VN-lijst van deskundigen die vermeend gebruik van chemische of biologische wapens onderzoeken. Haar punt is institutioneel, niet technisch: wetenschappelijke kennis blijft niet bij het team dat haar heeft ontwikkeld. Artikelen worden overal gelezen, software wordt gekopieerd en diensten maken laboratoriumwerk beschikbaar voor mensen die de tools niet hebben gebouwd.

Waarom detectie deel uitmaakt van de zorg

Veel van de biologische verdediging berust op herkenning. Laboratoria en screeningsystemen zoeken naar bekende genetische sequenties, bekende gifstoffen en bekende chemische kenmerken. Een stof met een naam kan op een controlelijst worden gezet. Onderzoekers op dit gebied waarschuwen dat systemen die alleen zoeken naar wat al in kaart is gebracht, op termijn misschien minder bescherming bieden dan mensen denken. Dat is een van de redenen waarom de WHO, nationale AI-veiligheidsinstituten en de bedrijven die deze modellen ontwikkelen zich allemaal over waarborgen buigen.

Wat dit wel en niet betekent voor een huishouden

Dit betekent niet dat er een aanval op komst is, en gezinnen hoeven de wetenschap niet te volgen om verstandige beslissingen te nemen. Het debat laat wel zien dat biologische en chemische risico's geen afgesloten hoofdstuk uit de twintigste eeuw zijn; mensen in de geneeskunde, veiligheid en volksgezondheid nemen deze kwesties serieus.

Voor een huishouden is de praktische aanpak hetzelfde als bij elk ander gevaar in de lucht, en het is verstandig dit te doen voordat er een waarschuwing komt:

  • Weet waar u kunt schuilen en houd die plek klaar. Bekijk onze gids voor het inrichten van een veilige kamer.
  • Zorg dat u thuis genoeg water, voedsel en medicijnen voor meerdere dagen heeft.
  • Zorg voor een masker of kap die iedereen goed past, met verzegelde reservefilters: het Israëlische 4A1 voor volwassenen zonder baard, de Sapphire-kap voor mensen met een baard of bril, en aangedreven kappen of jeugdm maskers voor kinderen.
  • Volg tijdens een uitbraak de instructies van de volksgezondheidsautoriteiten; die zijn veel belangrijker dan uitrusting.

Onze gids over biologische dreigingen en ademhalingsbescherming legt uit wat een filter wel en niet doet tegen ziektekiemen, en Andy Weber over biodefensie behandelt het beleid.

Veelgestelde vragen

Maakt AI het makkelijker om biologische wapens te maken?

Nee. Het blijft moeilijk en staat onder streng toezicht om biologische of chemische wapens te maken en te leveren. De zorg die onderzoekers uiten, betreft de langetermijnontwikkeling van het risico, niet iets wat iemand vandaag kan doen.

Wie is verantwoordelijk voor het beheer hiervan?

Overheden, de WHO, wapenbeheersingsorganisaties, nationale instituten voor AI-veiligheid en de bedrijven die de modellen ontwikkelen, in samenwerking met wetenschappers uit het vakgebied.

Verandert dit iets aan wat een gezin moet kopen?

Nee. Hetzelfde schuilplan, dezelfde maskers en voorraden beschermen tegen biologische, chemische en radiologische gevaren.

Over dit artikel: het verwijst naar gepubliceerd werk van Sean Ekins, Filippa Lentzos en collega's in Nature Machine Intelligence (2022) en Bulletin of the Atomic Scientists (2023), en naar het werk van de WHO over dual-useonderzoek. Deze onderzoekers en organisaties zijn niet verbonden aan CBRNMASKS.COM en hebben het bedrijf of zijn producten niet aanbevolen. De analyse en aanbevelingen zijn van David Magen, oprichter van CBRNMASKS.COM. Voormalig officier voor gevechtsonderzoek bij de Opleidings- en Doctrineafdeling van de IDF en voormalig reserveofficier bij de Israëlische Nationale Noodautoriteit.

Primaire bronnen

  • Fabio Urbina, Filippa Lentzos, Cédric Invernizzi, Sean Ekins — "Dual-use van AI-gestuurde geneesmiddelenontdekking", Nature Machine Intelligence, maart 2022
  • Sean Ekins, Filippa Lentzos, Max Brackmann, Cédric Invernizzi — "Er is een 'ChatGPT' voor biologie. Wat kan er misgaan?" Bulletin of the Atomic Scientists, maart 2023
  • WHO — Verantwoord gebruik van de levenswetenschappen en dual-useonderzoek
  • Brits AI Security Institute — Frontier AI Trends 2025

Analyse- en paraatheidsconclusies van David Magen, oprichter van CBRNMASKS.COM; voormalig officier voor gevechtsonderzoek bij de Opleidings- en Doctrineafdeling van de IDF; voormalig reserveofficier bij de Israëlische Nationale Noodautoriteit. Sean Ekins, Filippa Lentzos, Nature Machine Intelligence, Bulletin of the Atomic Scientists en de WHO zijn niet verbonden aan CBRNMASKS.COM en hebben het bedrijf of zijn producten niet aanbevolen.

Terug naar de blog