Advertencia sobre Armas Biológicas de IA: Cuando el Descubrimiento de Medicamentos Aprende a Diseñar Veneno

Divulgación editorial: este artículo se basa principalmente en: Fabio Urbina, Filippa Lentzos, Cédric Invernizzi y Sean Ekins, "Uso dual del descubrimiento de fármacos impulsado por inteligencia artificial," Nature Machine Intelligence, marzo de 2022; y Sean Ekins, Filippa Lentzos, Max Brackmann y Cédric Invernizzi, "Hay un 'ChatGPT' para biología. ¿Qué podría salir mal?" Bulletin of the Atomic Scientists, marzo de 2023. El experimento discutido generó candidatos moleculares predichos por computadora — no se sintetizaron, validaron ni desplegaron agentes químicos físicos. Este artículo no afirma que un ataque químico o biológico específico habilitado por IA sea inminente. Los investigadores citados no respaldaron CBRNMASKS.COM ni ningún producto descrito en este artículo. El análisis, las conclusiones sobre preparación y las recomendaciones de productos son únicamente de David Magen.

"La parte más aterradora no fue que la IA desobedeciera a sus creadores. Hizo exactamente lo que le pidieron."

El software había sido creado para ayudar a salvar vidas. Su propósito era familiar para cualquiera que trabaje en el descubrimiento moderno de fármacos: buscar entre más moléculas posibles de las que un equipo humano podría examinar, rechazar los candidatos peligrosos e identificar compuestos que pudieran convertirse en medicamentos. La toxicidad era el enemigo. Luego, investigadores que se preparaban para una conferencia internacional de seguridad preguntaron qué pasaría si se invirtiera el objetivo.

No construyeron un nuevo laboratorio de armas. En un ejercicio computacional controlado, redirigieron un sistema desarrollado para investigación farmacéutica beneficiosa hacia el objetivo opuesto. En menos de seis horas, el modelo produjo aproximadamente 40,000 moléculas candidatas que cumplían con el umbral de toxicidad de los investigadores — incluyendo agentes químicos de guerra conocidos y estructuras no listadas previamente que el modelo predijo como altamente tóxicas. No se había sintetizado nada. No se creó ningún arma física. Pero la pantalla entregó la advertencia: una herramienta diseñada para proteger a los pacientes de fármacos tóxicos podría dirigirse hacia la toxicidad con una facilidad inquietante.

Este análisis se lee mejor junto con protección respiratoria civil contra amenazas biológicas y IA, drones y biología sintética como amenaza de ADM. Juntos, conectan el panorama de amenazas con sus implicaciones operativas y de preparación civil.

El científico que dedicó su carrera a buscar medicamentos

El Dr. Sean Ekins es farmacólogo, toxicólogo computacional y fundador de Collaborations Pharmaceuticals — una empresa que usa aprendizaje automático para el descubrimiento de fármacos, enfermedades raras y enfermedades infecciosas. Su trabajo profesional ha incluido tratamientos potenciales para enfermedades como el Ébola y trastornos pediátricos raros. Ese trasfondo es lo que hace poderoso el experimento. El peligro no surgió porque un laboratorio malintencionado construyera un programa obviamente siniestro. Surgió de una plataforma científica legítima creada para hacer la investigación farmacéutica más rápida y segura. El equipo había pasado años enseñando a las computadoras a predecir si una molécula podría ser útil, si podría alcanzar un objetivo biológico y si podría dañar al paciente. En la conferencia Spiez Convergence en Suiza — donde investigadores, especialistas en control de armas y funcionarios de seguridad examinaron cómo las nuevas tecnologías podrían afectar el control de armas químicas y biológicas — la invitación obligó a Ekins y sus colegas a ver su propio software a través de los ojos de un posible malintencionado. Su realización: todo sistema capaz de optimizar una propiedad beneficiosa también puede optimizar una dañina cuando se cambia el objetivo.

La función de seguridad también fue un mapa

Los desarrolladores de fármacos necesitan modelos de toxicidad para identificar moléculas peligrosas antes de que comiencen trabajos costosos de laboratorio y clínicos. Eso significa que un modelo suficientemente capaz hace más que etiquetar el peligro — aprende patrones asociados con el peligro. Un sistema entrenado para reconocer estructuras químicas tóxicas puede ayudar a los científicos a evitarlas. El mismo conocimiento puede revelar dónde puede estar la región tóxica del espacio químico. Los investigadores no afirmaron que su modelo hubiera producido 40,000 armas químicas listas para usar. Una estructura molecular en una computadora no es un agente desplegable. El mal uso en el mundo real aún requeriría química, adquisición, síntesis, purificación, manejo, pruebas y entrega — cada uno de los cuales crea barreras y oportunidades para la detección. Sin embargo, esas barreras no son leyes permanentes de la naturaleza. La automatización, la síntesis por contrato, los laboratorios robóticos y mejores asistentes científicos pueden reducir algunas de ellas con el tiempo. La preocupación no es que una salida de IA se convierta instantáneamente en un arma. Es que el tiempo, la experiencia y el esfuerzo de búsqueda necesarios para llegar a un candidato peligroso pueden seguir disminuyendo.

Luego la biología adquirió sus propios modelos de lenguaje

En 2023, Ekins se unió a la experta en bioseguridad Dra. Filippa Lentzos y a los especialistas suizos en control de armas Maximilian Brackmann y Cédric Invernizzi para examinar lo que llamaron un "ChatGPT para biología." Los modelos de lenguaje de proteínas aprenden patrones a través de enormes colecciones de secuencias de aminoácidos — el alfabeto biológico con el que se construyen las proteínas. Los sistemas de IA entrenados con decenas o cientos de millones de secuencias de proteínas pueden proponer nuevas secuencias en segundos. Investigadores han usado tales modelos para generar proteínas que luego fueron fabricadas y demostraron funcionar. Las posibilidades beneficiosas son extraordinarias: las proteínas diseñadas por IA pueden ayudar a crear medicamentos, vacunas, enzimas y herramientas que descomponen la contaminación. Pero los autores advirtieron que el diseño de proteínas contiene la misma inversión de uso dual que el descubrimiento de fármacos — posiblemente con aún mayor incertidumbre.

La toxina que ninguna lista de vigilancia reconoce

La biodefensa tradicional depende en parte del reconocimiento — los laboratorios buscan secuencias genéticas conocidas, toxinas conocidas, firmas químicas conocidas y relaciones conocidas entre estructura y función. Los autores usaron la ricina como ejemplo conceptual. Los sistemas de detección pueden buscar secuencias reconocibles o características estructurales vinculadas a la toxina conocida. Un sistema futuro de diseño de proteínas podría preservar una función biológica dañina mientras cambia gran parte de la secuencia o estructura circundante. La molécula resultante podría parecer desconocida para sistemas construidos para reconocer lo que ya ha sido catalogado. Una toxina conocida puede colocarse en una lista de control. Una molécula nueva puede no tener aún un nombre.

La Dra. Filippa Lentzos en la frontera entre ciencia y seguridad

La Dra. Filippa Lentzos es profesora en Ciencia y Seguridad Internacional en el Departamento de Estudios de Guerra del King's College London, con roles en el Instituto Internacional de Investigación para la Paz de Estocolmo y el Centro James Martin para Estudios sobre la No Proliferación. Preside el Grupo Asesor Técnico de la Organización Mundial de la Salud sobre el Uso Responsable de las Ciencias de la Vida y la Investigación de Uso Dual, y es experta registrada para el mecanismo de las Naciones Unidas usado para investigar presuntos usos de armas químicas o biológicas. Su trabajo plantea una pregunta que las instituciones científicas a menudo posponen: no solo si esta investigación puede realizarse — sino cómo podría usarse la capacidad una vez que salga de las manos del equipo original. El software se copia. Los artículos de investigación se leen globalmente. Los modelos se adaptan. Los servicios comerciales hacen que la síntesis y las pruebas estén disponibles para personas que no construyeron las herramientas subyacentes. Un científico puede controlar el propósito de un experimento. La máquina genera posibilidades en segundos.

Lo que el riesgo de la IA significa para la preparación civil

La preocupación de bioseguridad por IA no requiere que las familias entiendan el plegamiento de proteínas o las arquitecturas de aprendizaje automático. Requiere entender un hecho simple: la línea de tiempo entre una capacidad científica y una aplicación peligrosa puede estar acortándose, y el número de personas que podrían acceder a esa capacidad puede estar creciendo. Eso no significa que un ataque sea inminente. Significa que el argumento para la preparación se fortalece con cada reducción incremental en la barrera técnica. Una familia que se prepara antes de que llegue una advertencia no necesita adivinar qué sistema de IA, qué patógeno o qué ciudad — necesita equipo que funcione para cada miembro de la familia, almacenado donde pueda ser alcanzado, con entrenamiento que permita un uso rápido.

Construyendo un kit práctico de protección respiratoria familiar

Adultos: el Israeli 4A1 Black Diamond Simplex — máscara civil israelí genuina de cara completa con visor panorámico, tubo de hidratación y conexión estándar para filtro de 40 mm. Para usuarios con barba: la capucha PAPR israelí Sapphire.

Niños de 2 a 8 años: la capucha PAPR infantil MAMTAK / Quartz — capucha transparente motorizada para niños pequeños que no pueden usar confiablemente una máscara convencional ajustada.

Bebés y niños pequeños de 0 a 2 años: el sistema de protección infantil Multipro.

Niños de 8 a 14 años: la máscara antigás infantil israelí 10A1.

Filtros: filtros israelíes PA-12 y M80 Tipo 80 CBRN/NBC de 40 mm. La máquina puede generar posibilidades en segundos. Una familia aún necesita tiempo para decidir qué le queda al adulto, qué funciona para el niño, qué puede usar el usuario con barba y dónde se almacenan las baterías y los filtros. Ese trabajo no puede automatizarse después de la alarma. El momento más seguro para completarlo es mientras el software aún se usa para buscar curas.

Explora el Paquete Familiar CBRN Israelí o la gama completa en CBRNMASKS.COM.

Protege a tu familia

4A1 para adultos, Sapphire para barbas, MAMTAK / Quartz para edades 2–8, Multipro para bebés. Filtros sellados de 40 mm para cada máscara. Paquete Familiar CBRN Israelí para todo el hogar. CBRNMASKS.COM — equipo de defensa civil israelí, en servicio desde 2009.

Fuentes principales

Análisis y conclusiones sobre preparación por David Magen — ex oficial de investigación de combate, División de Doctrina y Entrenamiento, Dirección de Operaciones de las FDI; ex oficial de personal, Autoridad Nacional de Emergencias, planificación de continuidad para autoridades locales, región de Haifa. Fundador de CBRNMASKS.COM desde 2009. Sean Ekins, Filippa Lentzos, Nature Machine Intelligence, Bulletin of the Atomic Scientists y la OMS no están afiliados a CBRNMASKS.COM ni han respaldado la empresa o sus productos.

Volver al blog