KI und Biosicherheit: Warum Wissenschaftler schwierigere Fragen stellen

Künstliche Intelligenz ist zu einem Bestandteil der Entwicklung neuer Medikamente und Impfstoffe geworden. Modelle, die mit chemischen Daten und Proteinsequenzen trainiert wurden, helfen Forschenden, Millionen Möglichkeiten auf einige wenige einzugrenzen, die sich für Tests im Labor eignen. Die Vorteile sind real: schnellere Forschung zu seltenen Krankheiten, neue Antibiotika, bessere Impfstoffe und Enzyme, die Plastik abbauen.

Einige der Wissenschaftler, die diese Werkzeuge entwickeln, haben öffentlich auch eine schwierigere Frage aufgeworfen: Was geschieht, wenn dieselben Fähigkeiten missbraucht werden? Diese Frage, die meist als Dual-Use-Risiko bezeichnet wird, ist inzwischen ein zentrales Thema der Biosicherheit und keine Randerscheinung mehr.

Wer darauf aufmerksam macht

Dr. Sean Ekins, ein Pharmakologe, dessen Unternehmen maschinelles Lernen nutzt, um Behandlungen für seltene und Infektionskrankheiten zu finden, war Mitautor einer 2022 in Nature Machine Intelligence erschienenen Arbeit über das Dual-Use-Potenzial der KI-gestützten Wirkstoffforschung. Sie wurde für eine Schweizer Konferenz zur Rüstungskontrolle im chemischen und biologischen Bereich verfasst. 2023 schrieben er und seine Kollegen im Bulletin of the Atomic Scientists über Protein-Design-Modelle, die sie als eine Art „ChatGPT für die Biologie“ bezeichneten.

Eine seiner Mitautorinnen, Dr. Filippa Lentzos, ist Dozentin für Wissenschaft und internationale Sicherheit am King's College London. Sie leitet die technische Beratungsgruppe der Weltgesundheitsorganisation für den verantwortungsvollen Einsatz der Biowissenschaften und Dual-Use-Forschung und gehört dem UN-Sachverständigenverzeichnis für die Untersuchung mutmaßlicher Einsätze chemischer oder biologischer Waffen an. Ihr Punkt ist institutioneller, nicht technischer Natur: Wissenschaftliche Fähigkeiten bleiben nicht bei dem Team, das sie entwickelt hat. Fachartikel werden überall gelesen, Software wird kopiert, und Dienste ermöglichen Laborarbeit für Menschen, die die Werkzeuge nicht selbst entwickelt haben.

Warum die Erkennung Teil des Problems ist

Ein großer Teil der biologischen Abwehr beruht auf Erkennung. Labore und Screening-Systeme suchen nach bekannten Gensequenzen, bekannten Toxinen und bekannten chemischen Signaturen. Ein Stoff, der einen Namen hat, kann auf eine Kontrollliste gesetzt werden. Forschende auf diesem Gebiet äußern die Sorge, dass Systeme, die nur nach bereits katalogisierten Stoffen suchen, mit der Zeit möglicherweise einen geringeren Schutz bieten, als viele annehmen. Das ist ein Grund, warum sich die WHO, nationale Institute für KI-Sicherheit und die Unternehmen, die diese Modelle entwickeln, mit der Frage nach Schutzmaßnahmen befassen.

Was das für einen Haushalt bedeutet und was nicht

Das alles bedeutet nicht, dass ein Angriff bevorsteht, und Familien müssen sich nicht mit der Wissenschaft befassen, um vernünftige Entscheidungen zu treffen. Die Debatte legt jedoch nahe, dass biologische und chemische Risiken kein abgeschlossenes Kapitel des 20. Jahrhunderts sind; Fachleute aus Medizin, Sicherheit und öffentlicher Gesundheit behandeln sie als aktuelle Themen.

Für einen Haushalt ist die praktische Reaktion dieselbe wie bei jeder anderen Gefahr in der Luft, und es lohnt sich, sie zu treffen, bevor eine Warnung eintrifft:

  • Wissen Sie, wo Sie Schutz suchen würden, und halten Sie den Ort einsatzbereit. Lesen Sie unseren Leitfaden zur Einrichtung eines Schutzraums.
  • Halten Sie zu Hause genug Wasser, Lebensmittel und Medikamente für mehrere Tage bereit.
  • Sorgen Sie für eine passende Maske oder Haube für jede Person und versiegelte Ersatzfilter: die israelische 4A1 für Erwachsene ohne Bart, die Sapphire-Haube für Menschen mit Bart und Brille sowie gebläseunterstützte Hauben oder Kindermasken für Kinder.
  • Befolgen Sie bei einem Ausbruch die Anweisungen des Gesundheitsamts; sie sind weitaus wichtiger als Ausrüstung.

Unser Leitfaden zu biologischen Gefahren und Atemschutz erklärt, wovor ein Filter bei Krankheitserregern schützt und wovor nicht. Andy Weber zur biologischen Verteidigung behandelt die politische Seite.

Häufig gestellte Fragen

Macht KI die Herstellung biologischer Waffen einfach?

Nein. Die Herstellung und Bereitstellung einer biologischen oder chemischen Waffe ist weiterhin schwierig und wird streng überwacht. Die Forschenden weisen auf die langfristige Entwicklung des Risikos hin, nicht auf etwas, das heute jeder tun kann.

Wer ist für die Bewältigung verantwortlich?

Regierungen, die WHO, Rüstungskontrollorganisationen, nationale KI-Sicherheitsinstitute und die Unternehmen, die diese Modelle entwickeln, arbeiten mit Wissenschaftlern auf diesem Gebiet zusammen.

Ändert das etwas daran, was eine Familie kaufen sollte?

Nein. Derselbe Schutzraumplan, dieselben Masken und Vorräte schützen vor biologischen, chemischen und radiologischen Gefahren.

Über diesen Artikel: Er bezieht sich auf veröffentlichte Arbeiten von Sean Ekins, Filippa Lentzos und ihren Kollegen in Nature Machine Intelligence (2022) und Bulletin of the Atomic Scientists (2023) sowie auf die Arbeit der WHO zu Forschung mit doppeltem Verwendungszweck. Diese Forschenden und Organisationen sind nicht mit CBRNMASKS.COM verbunden und haben weder das Unternehmen noch seine Produkte empfohlen. Die Analyse und Empfehlungen stammen von David Magen, Gründer von CBRNMASKS.COM. Er war Forschungsoffizier für Kampfoperationen in der Ausbildungs- und Doktrinenabteilung der IDF und Reserveoffizier in Israels Nationaler Notfallbehörde.

Primärquellen

  • Fabio Urbina, Filippa Lentzos, Cédric Invernizzi, Sean Ekins — „Doppelte Verwendung KI-gestützter Wirkstoffforschung“, Nature Machine Intelligence, März 2022
  • Sean Ekins, Filippa Lentzos, Max Brackmann, Cédric Invernizzi — „Es gibt ein ‚ChatGPT‘ für die Biologie. Was könnte schiefgehen?“ Bulletin of the Atomic Scientists, März 2023
  • WHO — Verantwortungsvolle Nutzung der Biowissenschaften und Forschung mit doppeltem Verwendungszweck
  • UK AI Security Institute — Trends bei Frontier-KI 2025

Analysen und Schlussfolgerungen zur Vorsorge von David Magen, Gründer von CBRNMASKS.COM; ehemaliger Forschungsoffizier für Kampfoperationen in der Ausbildungs- und Doktrinenabteilung der IDF; ehemaliger Reserveoffizier in Israels Nationaler Notfallbehörde. Sean Ekins, Filippa Lentzos, Nature Machine Intelligence, Bulletin of the Atomic Scientists und die WHO sind nicht mit CBRNMASKS.COM verbunden und haben weder das Unternehmen noch seine Produkte empfohlen.

Zurück zum Blog