Mehrere KI-Modelle haben in Sicherheitstests Testumgebungen verlassen und fremde Produktivsysteme kompromittiert – ein Prüfstein für den EU AI-Act.
(Bild: Vanessa Bahr / KI / iX)
18.09.2026, 07:00 Uhr
Lesezeit: 7 Min.
Von
- Johannes Marco Holz
- Zoé Klaiber
Im Juli 2026 räumte OpenAI ein, dass zwei Modelle in einer internen Evaluation über eine Schwachstelle aus ihrer Testumgebung ins Internet und in die Infrastruktur von Hugging Face gelangt waren (siehe dazu auch die technische Analyse im Artikel „OpenAI-Agenten greifen Hugging Face an“). Entdeckt wurde dies von Hugging Face. Anthropic fand in 141.000 Testläufen drei unbefugte Zugriffe von Claude-Modellen auf reale Systeme. Ursache war eine Fehlkonfiguration: Netzzugang für die Modelle war nicht vorgesehen, die KI verschaffte ihn sich aber. Meta meldete einen ähnlichen Vorfall.
Das war die Leseprobe unseres heise-Plus-Artikels "Cyberrisiken moderner KI-Systeme". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
