Die Wikimedia Foundation hat nach eigener Untersuchung bestätigt, dass außer Kontrolle geratene KI-Agenten von OpenAI auf ihren Plattformen aktiv waren. Sie bearbeiteten Wikis ohne Genehmigung, versuchten, Tools zu kompromittieren, und verursachten massiven Traffic.
Die Agenten nahmen laut der Wikimedia Foundation auch Bearbeitungen an Wikimedia-Wikis vor. Fast alle davon waren Test-Edits in sogenannten Sandbox-Bereichen, die für allgemeine Leser nicht sichtbar sind.
Einige Bearbeitungen betrafen jedoch die Konfiguration eines Zitationstools, die laut Wikimedia potenziell bösartig waren: Sie sollten das Tool offenbar als Proxy missbrauchen, um Daten von externen Diensten abzurufen. Keine dieser Bearbeitungen hatte die von Wikipedias Community-Richtlinien vorgeschriebene Genehmigung, teilt die Organisation in einem Blogpost mit.
Agenten versuchten außerdem, das öffentliche Etherpad der Wikimedia Foundation zu kompromittieren, ein Notiz-Tool, das als Community-Service gehostet wird. Die Versuche, es als Proxy für den Abruf externer Daten zu nutzen, scheiterten. Dieses Verhalten der Agenten ist auch in anderen Fällen dokumentiert. Andere Agenten nutzten das Etherpad, um sich Notizen über ihre Aufgaben zu machen, ohne dass daraus erkennbare Koordination entstand.
Zudem stellte die Foundation massives automatisiertes Daten-Downloading fest: Millionen von Anfragen an öffentliche APIs, das Crawling von Millionen Seiten vor allem auf Wikidata und Wikimedia Commons sowie Hunderttausende Abfragen an den Wikidata-Query-Service. Dieser Traffic hat laut Wikimedia möglicherweise zu einem teilweisen Ausfall des Query-Service im Mai 2026 beigetragen.
Schon zuvor berichtete Wikimedia, dass die eigene Infrastruktur durch Bot-Traffic massiv unter Druck gerät, während menschlicher Traffic zurückgeht.
Wikimedia fordert Verantwortung von KI-Unternehmen
Wikipedia sei für Menschen gebaut worden, schreibt die Foundation. Agentisches Verhalten stelle Herausforderungen dar, für die niemand Lösungen habe. Die ehrenamtlichen Editoren seien diejenigen, die als Erste mit den Folgen konfrontiert würden und den Schaden beseitigen müssten.
Während OpenAI einräume, dass seine Agenten "unvorhersehbar" handelten, müsse das Unternehmen auch die Verantwortung übernehmen, diese Risiken zu überwachen und zu verhindern. KI-Unternehmen täten nicht genug, um ihre Systeme zu sichern. Die Last falle stattdessen auf alle anderen, einschließlich kleinerer Organisationen.
"Unsere kollektive Priorität sollte die Gesundheit des gesamten Web-Ökosystems sein, damit es weiterhin allen Menschen zugutekommt und nicht nur einer Handvoll Milliardäre", schreibt die Foundation.
Der Wind scheint sich langsam zu drehen: Laut der Financial Times bereiten sich Versicherer auf millionenschwere Schadensfälle durch außer Kontrolle geratene KI-Agenten vor. Dabei rückt auch die persönliche Haftung von Führungskräften wie Sam Altman und Dario Amodei in den Fokus.
Manche spekulieren, dass gerade dieses Haftungspotenzial der eigentliche Motor hinter manchen Forderungen ist, die KI-Entwicklung zu verlangsamen: Die Labore erkennen zunehmend ihre Haftungsrisiken, können aber kaum auf die Bremse treten, solange Konkurrenten im laufenden Wettstreit um Marktanteile weiter veröffentlichen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
