IA e biossegurança: porque estão os cientistas a fazer perguntas mais difíceis

A inteligência artificial passou a fazer parte da conceção de novos medicamentos e vacinas. Os modelos treinados com dados de química e sequências de proteínas ajudam os investigadores a reduzir milhões de possibilidades a algumas que vale a pena testar em laboratório. Os benefícios são reais: investigação mais rápida sobre doenças raras, novos antibióticos, vacinas melhores e enzimas que decompõem plástico.

Alguns dos cientistas que desenvolvem estas ferramentas também levantaram publicamente uma questão mais difícil: o que acontece se as mesmas capacidades forem utilizadas indevidamente? Esta questão, geralmente designada por risco de dupla utilização, é agora um tema corrente na biossegurança, e não uma preocupação marginal.

Quem levanta esta questão

O Dr. Sean Ekins, farmacologista cuja empresa utiliza aprendizagem automática para procurar tratamentos para doenças raras e infeciosas, foi coautor de um artigo publicado em 2022 na Nature Machine Intelligence sobre o potencial de dupla utilização da descoberta de fármacos com recurso à IA. O artigo foi escrito para uma conferência suíça sobre controlo de armas químicas e biológicas. Em 2023, ele e os seus colegas escreveram no Bulletin of the Atomic Scientists sobre modelos de conceção de proteínas, que descreveram como uma espécie de «ChatGPT para a biologia».

Uma das coautoras, a Dra. Filippa Lentzos, é professora associada de Ciência e Segurança Internacional no King's College London. Preside ao grupo consultivo técnico da Organização Mundial da Saúde sobre a utilização responsável das ciências da vida e a investigação de dupla utilização, e integra a lista de peritos da ONU para investigar alegações de utilização de armas químicas ou biológicas. A sua perspetiva é institucional, não técnica: a capacidade científica não fica com a equipa que a desenvolveu. Os artigos são lidos em todo o lado, o software é copiado e os serviços disponibilizam trabalho laboratorial a pessoas que não criaram as ferramentas.

Porque é que a deteção também preocupa

Grande parte da biodefesa baseia-se no reconhecimento. Os laboratórios e os sistemas de rastreio procuram sequências genéticas, toxinas e assinaturas químicas conhecidas. Uma substância que tenha nome pode ser incluída numa lista de controlo. A preocupação manifestada pelos investigadores desta área é que os sistemas que procuram apenas aquilo que já foi catalogado possam, com o tempo, constituir uma salvaguarda menos eficaz do que se pensa. Esta é uma das razões pelas quais a OMS, os institutos nacionais de segurança da IA e as empresas que desenvolvem estes modelos têm abordado a questão das salvaguardas.

O que significa e o que não significa para uma família

Nada disto significa que esteja iminente um ataque, e as famílias não precisam de acompanhar a ciência para tomarem decisões sensatas. O debate sugere, contudo, que os riscos biológicos e químicos não são um capítulo encerrado do século XX; pessoas sérias das áreas da medicina, da segurança e da saúde pública tratam-nos como questões atuais.

Para uma família, a resposta prática é a mesma que para qualquer perigo transmitido pelo ar, e vale a pena agir antes de receber qualquer aviso:

  • Saiba onde se abrigar e mantenha esse espaço preparado. Consulte o nosso guia para preparar uma divisão segura.
  • Guarde em casa água, alimentos e medicamentos suficientes para vários dias.
  • Tenha uma máscara ou capuz que sirva a cada pessoa, com filtros sobresselentes selados: a 4A1 israelita para adultos sem barba, o capuz Sapphire para quem tem barba ou usa óculos, e capuzes com alimentação elétrica ou máscaras juvenis para crianças.
  • Siga as instruções das autoridades de saúde pública durante um surto, pois são muito mais importantes do que o equipamento.

O nosso guia sobre perigos biológicos e proteção respiratória explica o que um filtro faz e não faz contra os micróbios, e o artigo de Andy Weber sobre biodefesa aborda as políticas.

Perguntas frequentes

A IA está a facilitar o fabrico de armas biológicas?

Não. Fabricar e distribuir uma arma biológica ou química continua a ser difícil e está sujeito a um controlo rigoroso. A preocupação manifestada pelos investigadores prende-se com a evolução do risco a longo prazo, não com algo que alguém possa fazer hoje.

Quem é responsável por gerir esta situação?

Governos, a OMS, organismos de controlo de armamento, institutos nacionais de segurança da IA e as empresas que desenvolvem os modelos, em colaboração com cientistas da área.

Alguma destas informações altera o que uma família deve comprar?

Não. O mesmo plano de abrigo, máscaras e mantimentos protege contra perigos biológicos, químicos e radiológicos.

Sobre este artigo: refere-se a trabalhos publicados por Sean Ekins, Filippa Lentzos e colegas na Nature Machine Intelligence (2022) e no Bulletin of the Atomic Scientists (2023), bem como ao trabalho da OMS sobre investigação de dupla utilização. Esses investigadores e organizações não são afiliados da CBRNMASKS.COM e não aprovaram a empresa nem os seus produtos. A análise e as recomendações são da autoria de David Magen, fundador da CBRNMASKS.COM. Antigo oficial de investigação de combate no Ramo de Formação e Doutrina das FDI e antigo oficial da reserva na Autoridade Nacional de Emergência de Israel.

Fontes primárias

  • Fabio Urbina, Filippa Lentzos, Cédric Invernizzi, Sean Ekins — «Dupla utilização da descoberta de medicamentos baseada em inteligência artificial», Nature Machine Intelligence, março de 2022
  • Sean Ekins, Filippa Lentzos, Max Brackmann, Cédric Invernizzi — «Há um “ChatGPT” para a biologia. O que pode correr mal?», Bulletin of the Atomic Scientists, março de 2023
  • OMS — Utilização responsável das ciências da vida e investigação de dupla utilização
  • Instituto de Segurança da IA do Reino Unido — Tendências da IA de Fronteira 2025

Conclusões sobre análise e preparação por David Magen, fundador da CBRNMASKS.COM; antigo oficial de investigação de combate no Ramo de Formação e Doutrina das FDI; antigo oficial da reserva na Autoridade Nacional de Emergência de Israel. Sean Ekins, Filippa Lentzos, Nature Machine Intelligence, Bulletin of the Atomic Scientists e a OMS não são afiliados da CBRNMASKS.COM e não aprovaram a empresa nem os seus produtos.

Voltar ao blogue