OpenAI reagiert auf Vorfall mit KI-Agenten in deutschem Wiki

OpenAI setzt KI-Agenten ein, die Aufgaben weitgehend selbstständig bearbeiten und dafür auch externe Dienste nutzen können. Auf dem deutschsprachigen Programmierforum DseWiki sollen solche Agenten seit Mitte Mai mehr als 15.000 Änderungen vorgenommen und dabei praktisch die Kontrolle über Teile des Wikis übernommen haben (wir berichteten).

Dokumentiert wurde der Vorfall von einer Gruppe von Forschern. Nach einem Bericht von Reuters wusste OpenAI bereits seit Wochen davon, informierte die Öffentlichkeit aber nicht. Als Begründung erklärte das Unternehmen später, das Fehlverhalten sei bereits bekannten und zuvor veröffentlichten Fällen ähnlich gewesen. Gleichzeitig habe OpenAI mit den Reaktionen auf den Sicherheitsvorfall bei Hugging Face zu tun gehabt.

Erst nachdem die Dokumentation öffentlich geworden war, äußerte sich OpenAI am Samstag auf X zum „Wiki-Vorfall“. Das Unternehmen räumt dabei ein, dass verbindliche Regeln für den Umgang mit solchen Ereignissen fehlen. Bislang werde vor allem über problematische Eigenschaften von Modellen berichtet, nicht aber einheitlich über konkrete Vorfälle während Training, Tests und Betrieb.

Laut OpenAI zeigen sich inzwischen neue Arten realer Auswirkungen. Man arbeite deshalb an einem Rahmenwerk, das festlegen soll, wann und wie Vorfälle durch fehlgeleitete KI-Systeme veröffentlicht werden. Dieses Regelwerk will das Unternehmen demnächst vorstellen.

Der Knackpunkt ist weniger, dass ein KI-System Fehler macht. Bei mehr als 15.000 Eingriffen in ein fremdes Wiki geht es um Umfang, Kontrolle und eine schnelle Information der Betroffenen. Dass OpenAI den Fall zunächst selbst als nicht veröffentlichungswürdig einstufte, macht den angekündigten Standard umso notwendiger.

Hinweis: Dieser Artikel enthält Affiliate-Links. Kauft ihr darüber ein, erhalten wir eine kleine Provision - ohne Aufpreis für euch und ohne Einfluss auf unsere redaktionelle Meinung.