IA e biosicurezza: perché gli scienziati si pongono domande più difficili

L'intelligenza artificiale è diventata parte del processo di progettazione di nuovi farmaci e vaccini. I modelli addestrati sulla chimica e sulle sequenze proteiche aiutano i ricercatori a ridurre milioni di possibilità a poche da testare in laboratorio. I benefici sono concreti: progressi più rapidi nella ricerca sulle malattie rare, nuovi antibiotici, vaccini migliori ed enzimi che degradano la plastica.

Alcuni degli scienziati che sviluppano questi strumenti hanno anche sollevato pubblicamente una domanda più difficile: cosa succede se le stesse capacità vengono usate in modo improprio? Questa domanda, in genere definita rischio a duplice uso, è ormai un tema centrale della biosicurezza, non una preoccupazione marginale.

Chi solleva la questione

Il dott. Sean Ekins, farmacologo la cui azienda usa l'apprendimento automatico per cercare cure per malattie rare e infettive, è coautore di un articolo del 2022 su Nature Machine Intelligence sul potenziale a duplice uso della scoperta di farmaci basata sull'IA, scritto per una conferenza svizzera sul controllo degli armamenti chimici e biologici. Nel 2023, lui e i suoi colleghi hanno scritto sul Bulletin of the Atomic Scientists dei modelli di progettazione delle proteine, che hanno descritto come una sorta di «ChatGPT per la biologia».

Una delle sue coautrici, la dott.ssa Filippa Lentzos, è docente di Scienza e sicurezza internazionale al King's College di Londra. Presiede il gruppo tecnico consultivo dell'Organizzazione mondiale della sanità sull'uso responsabile delle scienze della vita e della ricerca a duplice uso ed è inclusa nell'elenco di esperti dell'ONU incaricati di indagare su presunti impieghi di armi chimiche o biologiche. Il suo punto è istituzionale, non tecnico: le capacità scientifiche non restano al gruppo che le ha sviluppate. Gli articoli vengono letti ovunque, il software viene copiato e i servizi rendono il lavoro di laboratorio accessibile a chi non ha creato gli strumenti.

Perché il rilevamento è parte del problema

Gran parte della biodefesa si basa sul riconoscimento. I laboratori e i sistemi di screening cercano sequenze genetiche, tossine e firme chimiche note. Una sostanza che ha un nome può essere inserita in un elenco di controllo. La preoccupazione sollevata dai ricercatori del settore è che, nel tempo, i sistemi che cercano solo ciò che è già stato catalogato possano offrire una protezione meno efficace di quanto si pensi. È uno dei motivi per cui l'OMS, gli istituti nazionali per la sicurezza dell'IA e le aziende che sviluppano questi modelli hanno affrontato il tema delle misure di sicurezza.

Cosa significa e cosa non significa per una famiglia

Questo non significa che sia imminente un attacco, né che le famiglie debbano seguire gli studi scientifici per prendere decisioni ragionevoli. Il dibattito suggerisce però che i rischi biologici e chimici non sono un capitolo chiuso del Novecento; persone autorevoli in ambito medico, della sicurezza e della salute pubblica li considerano questioni attuali.

Per una famiglia, la risposta pratica è la stessa che per qualsiasi pericolo trasportato dall'aria, ed è meglio prepararsi prima che arrivi un avviso:

  • Scopri dove ripararti e tienilo pronto. Consulta la nostra guida per allestire una stanza sicura.
  • Tieni a casa acqua, cibo e medicinali sufficienti per diversi giorni.
  • Munitevi di una maschera o di un cappuccio adatti a ogni persona e di filtri di ricambio sigillati: la maschera israeliana 4A1 per gli adulti senza barba, il cappuccio Sapphire per chi porta la barba o gli occhiali e cappucci a ventilazione assistita o maschere per ragazzi per i bambini.
  • Durante un’epidemia, seguite le indicazioni delle autorità sanitarie, molto più importanti delle attrezzature.

La nostra guida alle minacce biologiche e alla protezione respiratoria spiega cosa può e non può fare un filtro contro i germi, mentre Andy Weber sulla biodefesa illustra gli aspetti politici.

Domande frequenti

L’IA sta rendendo facile produrre armi biologiche?

No. Produrre e consegnare un’arma biologica o chimica resta difficile e sottoposto a controlli rigorosi. La preoccupazione sollevata dai ricercatori riguarda l’evoluzione del rischio nel lungo periodo, non qualcosa che chiunque possa fare oggi.

Chi è responsabile della gestione?

Governi, OMS, organismi per il controllo degli armamenti, istituti nazionali per la sicurezza dell’IA e aziende che sviluppano i modelli, in collaborazione con gli scienziati del settore.

Questo cambia ciò che una famiglia dovrebbe acquistare?

No. Lo stesso piano per il rifugio, le maschere e le scorte sono adatti ai rischi biologici, chimici e radiologici.

Informazioni su questo articolo: fa riferimento ai lavori pubblicati da Sean Ekins, Filippa Lentzos e colleghi su Nature Machine Intelligence (2022) e Bulletin of the Atomic Scientists (2023), nonché al lavoro dell’OMS sulla ricerca a duplice uso. Questi ricercatori e organizzazioni non sono affiliati a CBRNMASKS.COM e non hanno approvato l’azienda né i suoi prodotti. Analisi e raccomandazioni sono a cura di David Magen, fondatore di CBRNMASKS.COM. Ex ufficiale di ricerca operativa presso il Dipartimento di addestramento e dottrina delle IDF ed ex ufficiale di riserva presso l’Autorità nazionale per le emergenze di Israele.

Fonti primarie

  • Fabio Urbina, Filippa Lentzos, Cédric Invernizzi, Sean Ekins — «Uso a duplice scopo della scoperta di farmaci basata sull’intelligenza artificiale», Nature Machine Intelligence, marzo 2022
  • Sean Ekins, Filippa Lentzos, Max Brackmann, Cédric Invernizzi — «Esiste un “ChatGPT” per la biologia. Cosa potrebbe andare storto?», Bulletin of the Atomic Scientists, marzo 2023
  • OMS — Uso responsabile delle scienze della vita e ricerca a duplice uso
  • UK AI Security Institute — Tendenze dell’IA di frontiera 2025

Conclusioni sull’analisi e la preparazione a cura di David Magen, fondatore di CBRNMASKS.COM; ex ufficiale di ricerca operativa presso il Dipartimento di addestramento e dottrina delle IDF; ex ufficiale di riserva presso l’Autorità nazionale per le emergenze di Israele. Sean Ekins, Filippa Lentzos, Nature Machine Intelligence, Bulletin of the Atomic Scientists e l’OMS non sono affiliati a CBRNMASKS.COM e non hanno approvato l’azienda né i suoi prodotti.

Torna al blog