Umělá inteligence a biologická bezpečnost: Proč vědci kladou náročnější otázky
Umělá inteligence se stala součástí vývoje nových léků a vakcín. Modely trénované na chemických datech a sekvencích proteinů pomáhají výzkumníkům zúžit miliony možností na několik, které stojí za laboratorní testování. Přínosy jsou skutečné: rychlejší výzkum vzácných nemocí, nová antibiotika, lepší vakcíny a enzymy, které rozkládají plasty.
Někteří vědci, kteří tyto nástroje vyvíjejí, také veřejně položili závažnější otázku: co se stane, pokud budou stejné schopnosti zneužity? Tato otázka, obvykle označovaná jako riziko dvojího užití, je dnes v biologické bezpečnosti běžným tématem, nikoli okrajovou obavou.
Kdo na toto téma upozorňuje
Dr. Sean Ekins, farmakolog, jehož společnost využívá strojové učení k hledání léčby vzácných a infekčních nemocí, je spoluautorem článku z roku 2022 v časopise Nature Machine Intelligence o potenciálu umělé inteligence pro objevování léčiv k dvojímu užití. Článek byl připraven pro švýcarskou konferenci o kontrole chemických a biologických zbraní. V roce 2023 psal spolu s kolegy v časopise Bulletin of the Atomic Scientists o modelech pro navrhování proteinů, které popsali jako jakýsi „ChatGPT pro biologii“.
Jednou z jeho spoluautorek je Dr. Filippa Lentzos, docentka vědy a mezinárodní bezpečnosti na King's College London. Předsedá technické poradní skupině Světové zdravotnické organizace pro odpovědné využívání přírodních věd a výzkumu dvojího užití a je na seznamu odborníků OSN pro vyšetřování údajných případů použití chemických či biologických zbraní. Její argument se týká institucí, nikoli techniky: vědecké schopnosti nezůstávají jen u týmu, který je vyvinul. Články čtou lidé po celém světě, software se kopíruje a služby zpřístupňují laboratorní práci i lidem, kteří tyto nástroje nevytvořili.
Proč jsou obavy spojeny i s odhalováním
Biologická obrana z velké části závisí na rozpoznávání. Laboratoře a screeningové systémy hledají známé genetické sekvence, známé toxiny a známé chemické znaky. Látku, která má svůj název, lze zařadit na seznam kontrolovaných látek. Výzkumníci z této oblasti upozorňují, že systémy, které hledají pouze to, co už bylo katalogizováno, mohou být časem méně spolehlivou ochranou, než se lidé domnívají. I proto se této otázce věnují WHO, národní instituty pro bezpečnost umělé inteligence i společnosti, které tyto modely vyvíjejí.
Co to pro domácnost znamená a co ne
Nic z toho neznamená, že se blíží útok, a rodiny nemusí sledovat vědecké poznatky, aby se mohly rozumně rozhodovat. Tato debata ale naznačuje, že biologická a chemická rizika nejsou uzavřenou kapitolou 20. století; odborníci z oblasti medicíny, bezpečnosti a veřejného zdraví je považují za aktuální téma.
V domácnosti je praktický postup stejný jako při jakémkoli nebezpečí šířícím se vzduchem a vyplatí se na něj připravit ještě před jakýmkoli varováním:
- Zjistěte, kde se můžete ukrýt, a mějte toto místo připravené. Přečtěte si našeho průvodce zřízením bezpečné místnosti.
- Mějte doma dostatek vody, potravin a léků na několik dní.
- Mějte masku nebo kapuci, která každému dobře sedí, a zapečetěné náhradní filtry: izraelskou 4A1 pro dospělé hladce oholené osoby, kapuci Sapphire pro osoby s plnovousem a brýlemi a poháněné kapuce nebo dětské masky pro děti.
- Při epidemii dodržujte pokyny orgánů veřejného zdraví, které jsou mnohem důležitější než vybavení.
Náš průvodce biologickými hrozbami a ochranou dýchacích cest vysvětluje, jak filtr působí proti choroboplodným zárodkům a co nedokáže, a článek Andy Weber o biologické obraně se věnuje politickým souvislostem.
Často kladené otázky
Usnadňuje AI výrobu biologických zbraní?
Ne. Výroba a doprava biologické či chemické zbraně zůstávají obtížné a podléhají přísnému dohledu. Obavy, na které výzkumníci upozorňují, se týkají dlouhodobého vývoje rizika, nikoli něčeho, co by dnes mohl udělat kdokoli.
Kdo odpovídá za řízení tohoto procesu?
Vlády, WHO, organizace pro kontrolu zbrojení, národní instituty pro bezpečnost umělé inteligence a společnosti, které vyvíjejí modely, ve spolupráci s vědci z daného oboru.
Mění něco z toho, co by si měla rodina koupit?
Ne. Stejný plán úkrytu, masky a zásoby pokrývají biologická, chemická i radiologická nebezpečí.
O tomto článku: odkazuje na publikované práce Seana Ekinse, Filippy Lentzos a jejich kolegů v časopise Nature Machine Intelligence (2022) a Bulletinu of the Atomic Scientists (2023) a na práci WHO týkající se výzkumu dvojího užití. Tito výzkumníci a organizace nejsou se společností CBRNMASKS.COM nijak spojeni a společnost ani její produkty nepodpořili. Analýzu a doporučení připravil David Magen, zakladatel společnosti CBRNMASKS.COM. Bývalý výzkumný důstojník bojové přípravy v odboru výcviku a doktríny Izraelských obranných sil a bývalý záložní důstojník izraelského Národního úřadu pro mimořádné události.
Primární zdroje
- Fabio Urbina, Filippa Lentzos, Cédric Invernizzi, Sean Ekins — „Dvojí využití objevování léčiv s podporou umělé inteligence“, Nature Machine Intelligence, březen 2022
- Sean Ekins, Filippa Lentzos, Max Brackmann, Cédric Invernizzi — „Biologický ChatGPT. Co by se mohlo pokazit?“ Bulletin of the Atomic Scientists, březen 2023
- WHO — Odpovědné využívání přírodních věd a výzkumu dvojího užití
- Britský institut pro bezpečnost umělé inteligence — Trendy v oblasti špičkové AI 2025
Závěry analýzy a připravenosti Davida Magena, zakladatele společnosti CBRNMASKS.COM; bývalého výzkumného důstojníka bojové přípravy v odboru výcviku a doktríny Izraelských obranných sil; bývalého záložního důstojníka izraelského Národního úřadu pro mimořádné události. Sean Ekins, Filippa Lentzos, Nature Machine Intelligence, Bulletin of the Atomic Scientists ani WHO nejsou se společností CBRNMASKS.COM nijak spojeni a společnost ani její produkty nepodpořili.