IA y bioseguridad: por qué los científicos están planteando preguntas más difíciles
La inteligencia artificial ya forma parte del diseño de nuevos medicamentos y vacunas. Los modelos entrenados con datos de química y secuencias de proteínas ayudan a los investigadores a reducir millones de posibilidades a unas pocas que merecen probarse en un laboratorio. Los beneficios son reales: avances más rápidos en la investigación de enfermedades raras, nuevos antibióticos, mejores vacunas y enzimas que descomponen el plástico.
Algunos de los científicos que desarrollan estas herramientas también han planteado públicamente una pregunta más difícil: ¿qué ocurre si se hace un uso indebido de esas mismas capacidades? Esa cuestión, conocida habitualmente como riesgo de doble uso, es ahora un tema central de la bioseguridad, no una preocupación marginal.
Quiénes están planteando esta cuestión
El Dr. Sean Ekins, farmacólogo cuya empresa utiliza el aprendizaje automático para buscar tratamientos contra enfermedades raras e infecciosas, fue coautor de un artículo de 2022 publicado en Nature Machine Intelligence sobre el potencial de doble uso del descubrimiento de fármacos impulsado por IA, escrito para una conferencia suiza sobre el control de armas químicas y biológicas. En 2023, él y sus colegas escribieron en el Bulletin of the Atomic Scientists sobre modelos de diseño de proteínas, que describieron como una especie de «ChatGPT para la biología».
Una de sus coautoras, la Dra. Filippa Lentzos, es profesora titular de Ciencia y Seguridad Internacional en el King's College de Londres. Preside el grupo asesor técnico de la Organización Mundial de la Salud sobre el uso responsable de las ciencias de la vida y la investigación de doble uso, y forma parte de la lista de expertos de la ONU encargados de investigar presuntos usos de armas químicas o biológicas. Su planteamiento es institucional, no técnico: la capacidad científica no se queda en manos del equipo que la desarrolló. Los artículos se leen en todas partes, el software se copia y los servicios ponen el trabajo de laboratorio al alcance de personas que no crearon las herramientas.
Por qué la detección es parte de la preocupación
Gran parte de la biodefensa se basa en reconocer amenazas. Los laboratorios y los sistemas de detección buscan secuencias genéticas, toxinas y firmas químicas conocidas. Una sustancia identificada puede incluirse en una lista de control. A los investigadores de este campo les preocupa que, con el tiempo, los sistemas que solo buscan lo que ya se ha catalogado puedan ofrecer menos protección de lo que se supone. Por eso, la OMS, los institutos nacionales de seguridad de la IA y las empresas que desarrollan estos modelos han abordado la cuestión de las salvaguardias.
Qué significa y qué no para un hogar
Nada de esto significa que vaya a producirse un ataque, y las familias no necesitan seguir los avances científicos para tomar decisiones sensatas. Sin embargo, este debate sugiere que los riesgos biológicos y químicos no son un capítulo cerrado del siglo XX; expertos en medicina, seguridad y salud pública los consideran cuestiones vigentes.
Para un hogar, la respuesta práctica es la misma que ante cualquier peligro transmitido por el aire, y vale la pena prepararse antes de que llegue cualquier alerta:
- Ten claro dónde te refugiarías y mantenlo preparado. Consulta nuestra guía para preparar una habitación segura.
- Ten suficiente agua, comida y medicamentos en casa para varios días.
- Ten una mascarilla o capucha que se ajuste a cada persona, con filtros de repuesto sellados: la 4A1 israelí para adultos bien afeitados, la capucha Sapphire para personas con barba y gafas, y capuchas motorizadas o mascarillas juveniles para niños.
- Sigue las instrucciones de salud pública durante un brote, que son mucho más importantes que el equipo.
Nuestra guía sobre amenazas biológicas y protección respiratoria explica qué pueden y qué no pueden hacer los filtros contra los gérmenes, y Andy Weber sobre biodefensa aborda el aspecto normativo.
Preguntas frecuentes
¿La IA está facilitando la fabricación de armas biológicas?
No. Fabricar y distribuir un arma biológica o química sigue siendo difícil y está sometido a una vigilancia estricta. La preocupación que plantean los investigadores se refiere a la evolución del riesgo a largo plazo, no a algo que cualquiera pueda hacer hoy.
¿Quién es responsable de gestionar esto?
Los gobiernos, la OMS, los organismos de control de armas, los institutos nacionales de seguridad de la IA y las empresas que desarrollan los modelos, en colaboración con científicos del campo.
¿Esto cambia lo que debería comprar una familia?
No. El mismo plan de refugio, las mascarillas y los suministros sirven para hacer frente a riesgos biológicos, químicos y radiológicos.
Acerca de este artículo: hace referencia a trabajos publicados por Sean Ekins, Filippa Lentzos y sus colegas en Nature Machine Intelligence (2022) y Bulletin of the Atomic Scientists (2023), así como al trabajo de la OMS sobre la investigación de doble uso. Estos investigadores y organizaciones no están afiliados a CBRNMASKS.COM y no han respaldado a la empresa ni a sus productos. El análisis y las recomendaciones son de David Magen, fundador de CBRNMASKS.COM. Exoficial de investigación de combate en la Dirección de Instrucción y Doctrina de las FDI y exoficial de reserva de la Autoridad Nacional de Emergencias de Israel.
Fuentes primarias
- Fabio Urbina, Filippa Lentzos, Cédric Invernizzi, Sean Ekins — «Doble uso del descubrimiento de fármacos impulsado por inteligencia artificial», Nature Machine Intelligence, marzo de 2022
- Sean Ekins, Filippa Lentzos, Max Brackmann, Cédric Invernizzi — «Hay un “ChatGPT” para la biología. ¿Qué podría salir mal?», Bulletin of the Atomic Scientists, marzo de 2023
- OMS — Uso responsable de las ciencias de la vida y la investigación de doble uso
- Instituto de Seguridad de la IA del Reino Unido — Tendencias de la IA de frontera 2025
Conclusiones sobre análisis y preparación de David Magen, fundador de CBRNMASKS.COM; exoficial de investigación de combate en la Dirección de Instrucción y Doctrina de las FDI; exoficial de reserva de la Autoridad Nacional de Emergencias de Israel. Sean Ekins, Filippa Lentzos, Nature Machine Intelligence, Bulletin of the Atomic Scientists y la OMS no están afiliados a CBRNMASKS.COM y no han respaldado a la empresa ni a sus productos.