IA et biosécurité : pourquoi les scientifiques posent des questions plus difficiles

L’intelligence artificielle fait désormais partie du processus de conception de nouveaux médicaments et vaccins. Les modèles entraînés sur des données chimiques et des séquences protéiques aident les chercheurs à réduire des millions de possibilités à quelques-unes qui méritent d’être testées en laboratoire. Les bénéfices sont réels : accélérer la recherche sur les maladies rares, mettre au point de nouveaux antibiotiques, de meilleurs vaccins et des enzymes qui dégradent le plastique.

Certains scientifiques qui développent ces outils ont aussi soulevé publiquement une question plus préoccupante : que se passe-t-il si ces mêmes capacités sont détournées ? Cette question, généralement appelée risque à double usage, est désormais un sujet majeur de la biosécurité, et non plus une inquiétude marginale.

Qui tire la sonnette d’alarme

Le Dr Sean Ekins, pharmacologue dont l’entreprise utilise l’apprentissage automatique pour chercher des traitements contre des maladies rares et infectieuses, a cosigné en 2022 un article publié dans Nature Machine Intelligence sur le potentiel à double usage de la découverte de médicaments assistée par l’IA, destiné à une conférence suisse sur la maîtrise des armements chimiques et biologiques. En 2023, il a écrit avec ses collègues dans le Bulletin of the Atomic Scientists au sujet des modèles de conception des protéines, qu’ils ont décrits comme une sorte de « ChatGPT pour la biologie ».

L’une de ses coauteures, la Dre Filippa Lentzos, est maîtresse de conférences en sciences et sécurité internationale au King’s College de Londres. Elle préside le groupe consultatif technique de l’Organisation mondiale de la santé sur l’utilisation responsable des sciences de la vie et la recherche à double usage, et figure sur la liste d’experts de l’ONU chargés d’enquêter sur les allégations d’utilisation d’armes chimiques ou biologiques. Son propos porte sur les institutions, et non sur la technique : les capacités scientifiques ne restent pas entre les mains de l’équipe qui les a développées. Les articles sont lus partout, les logiciels sont copiés et les services rendent les travaux de laboratoire accessibles à des personnes qui n’ont pas créé les outils.

Pourquoi la détection suscite des inquiétudes

Une grande partie de la biodéfense repose sur la détection. Les laboratoires et les systèmes de dépistage recherchent des séquences génétiques, des toxines et des signatures chimiques connues. Une substance nommée peut être ajoutée à une liste de contrôle. Les chercheurs de ce domaine craignent que les systèmes qui ne recherchent que ce qui a déjà été répertorié constituent, avec le temps, une protection moins fiable que beaucoup ne le pensent. C’est notamment pour cette raison que l’OMS, les instituts nationaux de sécurité de l’IA et les entreprises qui développent ces modèles se sont tous penchés sur les mesures de protection.

Ce que cela signifie ou non pour un foyer

Cela ne signifie pas qu’une attaque se prépare, et les familles n’ont pas besoin de suivre les avancées scientifiques pour prendre des décisions raisonnables. Ce débat montre toutefois que les risques biologiques et chimiques ne sont pas une page tournée du XXe siècle : des spécialistes de la médecine, de la sécurité et de la santé publique les considèrent comme des enjeux actuels.

Pour un foyer, les mesures pratiques à prendre sont les mêmes que face à tout danger aéroporté, et mieux vaut les prendre avant qu’une alerte ne soit lancée :

  • Sachez où vous mettre à l’abri et gardez cet endroit prêt. Consultez notre guide pour aménager une pièce sécurisée.
  • Gardez suffisamment d’eau, de nourriture et de médicaments chez vous pour plusieurs jours.
  • Prévoyez un masque ou une cagoule adaptés à chaque personne, ainsi que des filtres de rechange scellés : le masque israélien 4A1 pour les adultes rasés de près, la cagoule Sapphire pour les personnes portant la barbe ou des lunettes, et des cagoules à ventilation assistée ou des masques pour jeunes pour les enfants.
  • Suivez les consignes de santé publique en cas d’épidémie ; elles comptent bien plus que l’équipement.

Notre guide sur les menaces biologiques et la protection respiratoire explique ce que les filtres peuvent ou ne peuvent pas faire contre les agents pathogènes, et les explications d’Andy Weber sur la biodéfense abordent les enjeux politiques.

Foire aux questions

L’IA facilite-t-elle la fabrication d’armes biologiques ?

Non. La fabrication et la livraison d’une arme biologique ou chimique restent difficiles et font l’objet d’une surveillance étroite. Les chercheurs s’inquiètent de l’évolution du risque à long terme, et non de quelque chose que n’importe qui pourrait faire aujourd’hui.

Qui est responsable de la gestion de cette situation ?

Les gouvernements, l’OMS, les organismes de maîtrise des armements, les instituts nationaux de sécurité de l’IA et les entreprises qui développent les modèles, en collaboration avec les scientifiques du domaine.

Cela change-t-il ce qu’une famille devrait acheter ?

Non. Le même plan d’abri, les mêmes masques et les mêmes provisions protègent contre les risques biologiques, chimiques et radiologiques.

À propos de cet article : il fait référence aux travaux publiés par Sean Ekins, Filippa Lentzos et leurs collègues dans Nature Machine Intelligence (2022) et le Bulletin of the Atomic Scientists (2023), ainsi qu’aux travaux de l’OMS sur la recherche à double usage. Ces chercheurs et organismes ne sont pas affiliés à CBRNMASKS.COM et n’ont approuvé ni l’entreprise ni ses produits. L’analyse et les recommandations sont de David Magen, fondateur de CBRNMASKS.COM, ancien officier chargé de la recherche opérationnelle au sein de la Direction de l’instruction et de la doctrine de Tsahal et ancien officier de réserve à l’Autorité nationale israélienne de gestion des situations d’urgence.

Sources primaires

  • Fabio Urbina, Filippa Lentzos, Cédric Invernizzi, Sean Ekins — « Le double usage de la découverte de médicaments propulsée par l’intelligence artificielle », Nature Machine Intelligence, mars 2022
  • Sean Ekins, Filippa Lentzos, Max Brackmann, Cédric Invernizzi — « Il existe un « ChatGPT » pour la biologie. Qu’est-ce qui pourrait mal tourner ? », Bulletin of the Atomic Scientists, mars 2023
  • OMS — Utilisation responsable des sciences de la vie et de la recherche à double usage
  • UK AI Security Institute — Tendances de l’IA de pointe en 2025

Conclusions d’analyse et de préparation de David Magen, fondateur de CBRNMASKS.COM ; ancien officier chargé de la recherche opérationnelle au sein de la Direction de l’instruction et de la doctrine de Tsahal ; ancien officier de réserve à l’Autorité nationale israélienne de gestion des situations d’urgence. Sean Ekins, Filippa Lentzos, Nature Machine Intelligence, le Bulletin of the Atomic Scientists et l’OMS ne sont pas affiliés à CBRNMASKS.COM et n’ont pas approuvé l’entreprise ni ses produits.

Retour au blog