Advertencia sobre armas biológicas de IA: cuando el descubrimiento de fármacos aprende a diseñar venenos

Declaración editorial: este artículo se basa principalmente en: Fabio Urbina, Filippa Lentzos, Cédric Invernizzi y Sean Ekins, «Dual Use of Artificial-Intelligence-Powered Drug Discovery», Nature Machine Intelligence, marzo de 2022; y Sean Ekins, Filippa Lentzos, Max Brackmann y Cédric Invernizzi, «There's a 'ChatGPT' for Biology. What Could Go Wrong?», Bulletin of the Atomic Scientists, marzo de 2023. El experimento analizado generó candidatos moleculares predichos por computadora; no sintetizó, validó ni desplegó agentes químicos físicos. Este artículo no afirma que un ataque químico o biológico específico habilitado por IA sea inminente. Los investigadores citados no respaldaron CBRNMASKS.COM ni ningún producto descrito en este artículo. El análisis, las conclusiones sobre preparación y las recomendaciones de productos son exclusivamente de David Magen.

«Lo más aterrador no fue que la IA desobedeciera a sus creadores. Hizo exactamente lo que le pidieron.»

El software se había creado para ayudar a salvar vidas. Su propósito era conocido por cualquiera que trabajara en el descubrimiento moderno de fármacos: buscar entre más moléculas posibles de las que un equipo humano podría examinar jamás, rechazar los candidatos peligrosos e identificar compuestos que pudieran convertirse en medicamentos. La toxicidad era el enemigo. Entonces, unos investigadores que se preparaban para una conferencia internacional de seguridad preguntaron qué ocurriría si se invirtiera el objetivo.

No construyeron un nuevo laboratorio de armas. En un ejercicio computacional controlado, redirigieron un sistema desarrollado para la investigación farmacéutica beneficiosa hacia el objetivo opuesto. En menos de seis horas, el modelo produjo aproximadamente 40.000 moléculas candidatas que cumplían el umbral de toxicidad de los investigadores, incluidos agentes de guerra química conocidos y estructuras no catalogadas anteriormente que el modelo predijo que serían altamente tóxicas. No se sintetizó nada. No se creó ningún arma física. Pero el análisis había dado la voz de alarma: una herramienta diseñada para proteger a los pacientes de fármacos tóxicos podía orientarse hacia la toxicidad con una facilidad inquietante.

Este análisis se entiende mejor junto con la protección respiratoria civil contra amenazas biológicas y la IA, los drones y la biología sintética como amenaza de armas de destrucción masiva. En conjunto, conectan el panorama de amenazas con sus implicaciones operativas y de preparación civil.

El científico que había dedicado su carrera a buscar medicamentos

El Dr. Sean Ekins es farmacólogo, toxicólogo computacional y fundador de Collaborations Pharmaceuticals, una empresa que utiliza aprendizaje automático para el descubrimiento de fármacos, las enfermedades raras y las enfermedades infecciosas. Su trabajo profesional ha incluido posibles tratamientos para enfermedades como el ébola y trastornos pediátricos raros. Ese contexto es lo que hace que el experimento sea tan contundente. El peligro no surgió porque un laboratorio malicioso construyera un programa obviamente siniestro. Surgió de una plataforma científica legítima creada para hacer que la investigación farmacéutica fuera más rápida y segura. El equipo había dedicado años a enseñar a las computadoras a predecir si una molécula podía ser útil, si podía alcanzar un objetivo biológico y si podía dañar al paciente. En la conferencia Spiez Convergence, celebrada en Suiza, donde investigadores, especialistas en control de armamentos y funcionarios de seguridad examinaron cómo las nuevas tecnologías podían afectar al control de las armas químicas y biológicas, la invitación obligó a Ekins y a sus colegas a observar su propio software con los ojos de un posible usuario indebido. Su conclusión fue que todo sistema capaz de optimizar una propiedad beneficiosa también puede ser capaz de optimizar una perjudicial cuando se cambia el objetivo.

La función de seguridad también era un mapa

Los desarrolladores de fármacos necesitan modelos de toxicidad para identificar moléculas peligrosas antes de que comiencen los costosos trabajos de laboratorio y clínicos. Eso significa que un modelo suficientemente capaz hace algo más que etiquetar el peligro: aprende los patrones asociados con él. Un sistema entrenado para reconocer estructuras químicas tóxicas puede ayudar a los científicos a evitarlas. Ese mismo conocimiento puede revelar dónde se encuentra la región tóxica del espacio químico. Los investigadores no afirmaron que su modelo hubiera producido 40.000 armas químicas listas para usar. Una estructura molecular en una computadora no es un agente desplegable. El uso indebido en el mundo real seguiría requiriendo química, adquisición, síntesis, purificación, manipulación, pruebas y distribución, y cada una de estas etapas crea obstáculos y oportunidades de detección. Sin embargo, esos obstáculos no son leyes permanentes de la naturaleza. La automatización, la síntesis por contrato, los laboratorios robóticos y unos asistentes científicos más avanzados pueden reducir algunos de ellos con el tiempo. La preocupación no es que un resultado de IA se convierta instantáneamente en un arma. Es que el tiempo, los conocimientos y el esfuerzo de búsqueda necesarios para llegar a un candidato peligroso pueden seguir disminuyendo.

Entonces la biología adquirió sus propios modelos de lenguaje

En 2023, Ekins se unió a la especialista en bioseguridad Dra. Filippa Lentzos y a los especialistas suizos en control de armamentos Maximilian Brackmann y Cédric Invernizzi para examinar lo que denominaron un «ChatGPT para la biología». Los modelos de lenguaje de proteínas aprenden patrones a partir de enormes colecciones de secuencias de aminoácidos, el alfabeto biológico con el que se construyen las proteínas. Los sistemas de IA entrenados con decenas o cientos de millones de secuencias de proteínas pueden proponer nuevas secuencias en cuestión de segundos. Los investigadores han utilizado estos modelos para generar proteínas que posteriormente se fabricaron y demostraron funcionar. Las posibilidades beneficiosas son extraordinarias: las proteínas diseñadas mediante IA pueden ayudar a crear medicamentos, vacunas, enzimas y herramientas que descompongan la contaminación. Pero los autores advirtieron que el diseño de proteínas contiene la misma inversión de uso dual que el descubrimiento de fármacos, posiblemente con una incertidumbre aún mayor.

La toxina que ningún sistema de vigilancia reconoce

La biodefensa tradicional depende en parte del reconocimiento: los laboratorios buscan secuencias genéticas conocidas, toxinas conocidas, firmas químicas conocidas y relaciones conocidas entre estructura y función. Los autores utilizaron la ricina como ejemplo conceptual. Los sistemas de detección pueden buscar secuencias reconocibles o características estructurales vinculadas a la toxina conocida. Un futuro sistema de diseño de proteínas podría conservar una función biológica dañina mientras cambia gran parte de la secuencia o estructura circundante. La molécula resultante podría parecer desconocida para los sistemas creados para reconocer lo que ya ha sido catalogado. Una toxina conocida puede incluirse en una lista de control. Una molécula nueva quizá todavía no tenga nombre.

La Dra. Filippa Lentzos, en la frontera entre la ciencia y la seguridad

La Dra. Filippa Lentzos es profesora asociada de Ciencia y Seguridad Internacional en el Departamento de Estudios de Guerra del King's College London, y ocupa cargos en el Stockholm International Peace Research Institute y el James Martin Center for Nonproliferation Studies. Preside el Grupo Técnico Asesor de la Organización Mundial de la Salud sobre el Uso Responsable de las Ciencias de la Vida y la Investigación de Uso Dual, y forma parte de la lista de expertos del mecanismo de las Naciones Unidas utilizado para investigar presuntos usos de armas químicas o biológicas. Su trabajo plantea una pregunta que las instituciones científicas suelen posponer: no solo ¿puede realizarse esta investigación?, sino también ¿cómo podría utilizarse esta capacidad una vez que salga de las manos del equipo original? El software se copia. Los artículos de investigación se leen en todo el mundo. Los modelos se adaptan. Los servicios comerciales permiten la síntesis y las pruebas a personas que no construyeron las herramientas subyacentes. Un científico puede controlar el propósito de un experimento. La máquina genera posibilidades en cuestión de segundos.

Qué significa el riesgo de la IA para la preparación civil

La preocupación por la bioseguridad de la IA no exige que las familias comprendan el plegamiento de proteínas o las arquitecturas del aprendizaje automático. Exige comprender un hecho sencillo: el plazo entre una capacidad científica y una aplicación peligrosa puede estar acortándose, y el número de personas que podrían acceder a esa capacidad puede estar creciendo. Eso no significa que un ataque sea inminente. Significa que el argumento a favor de la preparación se fortalece con cada reducción gradual de la barrera técnica. Una familia que se prepara antes de que llegue una advertencia no necesita adivinar qué sistema de IA, qué patógeno o qué ciudad; necesita equipos que funcionen para cada miembro de la familia, almacenados donde puedan alcanzarse, y una capacitación que permita utilizarlos rápidamente.

Cómo preparar un kit práctico de protección respiratoria familiar

Adultos: la Israeli 4A1 Black Diamond Simplex, una máscara israelí civil de defensa de rostro completo auténtica, con visor panorámico, tubo de hidratación y conexión de filtro estándar de 40 mm. Para usuarios con barba: la capucha PAPR israelí Sapphire.

Niños de 2 a 8 años: la capucha PAPR infantil MAMTAK / Quartz, una capucha transparente motorizada para niños pequeños que no pueden utilizar de forma fiable una máscara convencional ajustada.

Bebés y niños pequeños de 0 a 2 años: el sistema de protección infantil Multipro.

Niños de 8 a 14 años: la máscara de gas infantil israelí 10A1.

Filtros: filtros israelíes PA-12 y M80 Type 80 CBRN/NBC de 40 mm. La máquina puede generar posibilidades en cuestión de segundos. Una familia todavía necesita tiempo para decidir qué se adapta al adulto, qué funciona para el niño, qué puede llevar el usuario con barba y dónde se almacenan las baterías y los filtros. Ese trabajo no puede automatizarse después de la alarma. El momento más seguro para completarlo es mientras el software todavía se utiliza para buscar curas.

Explora el paquete familiar CBRN israelí o toda la gama en CBRNMASKS.COM.

Protege a tu familia

4A1 para adultos, Sapphire para barbas, MAMTAK / Quartz para edades de 2 a 8 años y Multipro para bebés. Filtros sellados de 40 mm para cada máscara. Paquete familiar CBRN israelí para todo el hogar. CBRNMASKS.COM: equipos israelíes de defensa civil, en servicio desde 2009.

Fuentes principales

• Fabio Urbina, Filippa Lentzos, Cédric Invernizzi, Sean Ekins: «Dual Use of Artificial-Intelligence-Powered Drug Discovery», Nature Machine Intelligence, marzo de 2022
• Sean Ekins, Filippa Lentzos, Max Brackmann, Cédric Invernizzi: «There's a 'ChatGPT' for Biology. What Could Go Wrong?», Bulletin of the Atomic Scientists, marzo de 2023
• OMS: Uso responsable de las ciencias de la vida e investigación de uso dual
• UK AI Security Institute: Tendencias de la IA de frontera 2025

Análisis y conclusiones sobre preparación de David Magen: exoficial de investigación de combate, División de Doctrina y Entrenamiento, Dirección de Operaciones de las FDI; exoficial de Estado Mayor, Autoridad Nacional de Emergencias, planificación de la continuidad para autoridades locales de la región de Haifa. Fundador de CBRNMASKS.COM desde 2009. Sean Ekins, Filippa Lentzos, Nature Machine Intelligence, Bulletin of the Atomic Scientists y la OMS no están afiliados a CBRNMASKS.COM ni han respaldado la empresa o sus productos.