26. Dezember 2025 Marcel Kunzmann
Künstliche Intelligenz hat verschiedene Dual-Use-Aspekte, die derzeit noch erforscht werden
(Bild: Production Perig/Shutterstock.com)
Forscher testeten Biosicherheits-Software mit Toxin-Sequenzen. Die Ergebnisse zeigen gravierende Schwachstellen bei der Erkennung KI-erzeugter Schadstoffe.
Microsoft-Forscher haben gravierende Sicherheitslücken in den Kontrollsystemen aufgedeckt, die DNA-Hersteller zum Schutz vor Biowaffen einsetzen.
Bei einem umfassenden Test erkannten die gängigen Screening-Programme viele durch künstliche Intelligenz erzeugte Gensequenzen für potenzielle Giftstoffe nicht, wie das Team um Bruce Wittmann in der Fachzeitschrift Science berichtet.
Die Wissenschaftler erzeugten mit drei verschiedenen KI-Modellen über 76.000 synthetische Varianten von 72 bekannten Schadproteinen, darunter Toxine wie Rizin und Botulinum. Diese Sequenzen schickten sie an vier Anbieter von Biosicherheits-Software (BSS), die standardmäßig von DNA-Syntheseunternehmen verwendet wird, um gefährliche Bestellungen zu identifizieren.
Screening-Software versagt bei veränderten Sequenzen
Das Ergebnis war alarmierend: Während die Programme DNA-Sequenzen erkannten, die ihren natürlichen Vorbildern noch stark ähnelten, scheiterten sie bei deutlich veränderten Varianten. Ein Screening-Tool erkannte nur 23 Prozent der potenziell gefährlichen Sequenzen.
"Die BSS waren nicht in der Lage, Sequenzen mit Genen für potenziell schädliche Proteine zuverlässig zu erkennen", so die Forscher. Besonders problematisch waren DNA-Abfolgen, die harmlosen Genen ähnelten, aber kritische Abweichungen aufwiesen.
Selbst nach Optimierungen der Software durch drei der vier Anbieter blieben erhebliche Erkennungslücken bestehen.
Bruce Wittmann von Microsoft, der normalerweise KI für medizinische Zwecke nutzt, beschrieb die Arbeit mit den potenziell tödlichen Sequenzen als "menschlich bemerkenswerte Belastung". Das Team führte bewusst keine praktischen Tests durch, da dies gegen die Biowaffenkonvention verstoßen hätte.
Verantwortungsvoller Umgang mit Sicherheitslücken
Die Forscher behandelten ihre Erkenntnisse wie einen "biologischen Zero Day" - eine IT-Schwachstelle, für die es noch keinen Schutz gibt. "Wir waren alle sehr still darüber", sagte Jaime Yassif von der Nuclear Threat Initiative.
Die Wissenschaftler informierten die Software-Anbieter vertraulich und warteten mit der Veröffentlichung, bis Verbesserungen implementiert wurden. Nach den Upgrades erkannten die Systeme durchschnittlich 72 Prozent der KI-generierten Sequenzen, einschließlich 97 Prozent derjenigen, die Modelle als höchstwahrscheinlich toxisch einstuften.
Dennoch warnen die Autoren, dass sequenzbasierte Kontrollen langfristig nicht ausreichen werden, da zukünftige KI-Systeme Proteine ohne natürliche Vorbilder entwerfen könnten.
Begrenzte reale Bedrohung bisher
James Diggans von der DNA-Synthesefirma Twist Bioscience relativiert die praktische Gefahr: "Die Anzahl der Male, die wir ein Problem an die Strafverfolgung weiterleiten mussten - ich habe mehr Finger an einer Hand."
Die tatsächliche Zahl von Personen, die Missbrauch versuchen, könne "sehr nahe bei null" liegen. Etwa 20 Prozent der DNA-Anbieter führen laut Yassif jedoch überhaupt keine Sicherheitsüberprüfungen durch. Sie fordert zusätzliche Schutzmaßnahmen direkt in den KI-Proteindesign-Tools.
Internationale Koordination gefordert
Dirk Lanzerath vom Deutschen Referenzzentrum für Ethik in den Biowissenschaften betont die Notwendigkeit internationaler Standards: "Angesichts der globalen Risiken missbräuchlicher Anwendungen ist ein internationaler Austausch über Standards, deren Implementierung und Harmonisierung unverzichtbar."
Die Studienautoren halten Details über die synthetischen DNA-Sequenzen und Software-Verbesserungen unter Verschluss. Zugang erhalten nur Wissenschaftler nach einem mehrstufigen Prüfungsverfahren der International Biosecurity and Biosafety Initiative for Science.
Drew Endy von der Stanford University mahnt jedoch, dass die Fokussierung auf Screening-Software von einem größeren Problem ablenke: den möglichen geheimen Biowaffenprogrammen verschiedener Nationen. "Heute beschuldigen sich Nationen gegenseitig, offensive Biowaffenprogramme zu haben. Wir müssen diese Situation deeskalieren", so Endy.
