OpenAI deckt verdeckte russische Einflusskampagne auf, die ChatGPT für Propaganda nutzte

OpenAI hat eine verdeckte russische Einflusskampagne aufgedeckt und gestoppt, die ChatGPT zur Erstellung von Social-Media-Beiträgen nutzte.

Die Betreiber verwendeten VPNs, um aus Russland auf die Plattform zuzugreifen, und wiesen ChatGPT an, sprachliche Hinweise auf ihre russische Herkunft zu verbergen. Ziel war die Bewerbung des "International Burke Institute" (IBI), eines angeblich in Israel ansässigen Thinktanks, der unter anderem einen "Souveränitätsindex" veröffentlichte, der Russland positiv und westliche Länder in Relation negativ darstellte.

Russlands Militär ist 0,5 Punkte besser als das der USA, glaubt das IBI. | Bild: Eigener Screenshot

Laut OpenAI waren 34 von 36 untersuchten Artikeln auf der IBI-Webseite von anderen Quellen kopiert, teils mit falscher Autorenzuordnung. So wurde etwa ein Artikel von Cambridge University Press fälschlich einer Professorin der University of Nottingham zugeschrieben, und ein Artikel des Migration Policy Institute einer australischen Professorin für Lebensmittelchemie.

Kaum Reichweite, aber skalierbare Infrastruktur

Beiträge wurden auf X, LinkedIn, Facebook, Substack und Telegram verbreitet, darunter auch deutschsprachige Inhalte auf dem Telegram-Kanal "Lahme Ente", die die Ukraine, die EU und die Bundesregierung kritisierten und für bessere Beziehungen zu Russland plädierten. Ein zweiter Betreiber erstellte Logos für rund ein Dutzend Telegram-Kanäle mit Fokus auf Deutschland, die USA, Frankreich, Polen und die Türkei und forderte regelmäßig russischsprachige Zusammenfassungen der Kanalaktivitäten an.

Ein LinkedIn-Beitrag der russischen Einflusskampagne wirbt für einen Artikel des "International Burke Institute" über Guyanas Ölvorkommen. Das Thema könnte als Aufhänger dienen, um den gefälschten Thinktank als seriöse Quelle für geopolitische Analysen zu inszenieren. | Quelle: OpenAI

Die einzelnen Posts erzielten laut OpenAI nur wenige Aufrufe, die offiziellen IBI-Konten hatten niedrige Abonnentenzahlen. Die zugehörigen Telegram-Kanäle erreichten jedoch jeweils 10.000 bis 20.000 Follower. Auf der Brookings Breakout Scale stuft OpenAI die Kampagne in Kategorie drei von sechs ein: Verbreitung auf mehreren Plattformen mit ersten Anzeichen einer Reichweite bei echten Nutzern. Die eigentliche Gefahr liege weniger in der aktuellen Reichweite als in der aufwendig aufgebauten Infrastruktur, die langfristig hätte skaliert werden können.

KI-News ohne Hype – von Menschen kuratiert

Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.

Jetzt abonnieren