KI-generierte Avatare mischen sich laut einer aktuellen Untersuchung zunehmend in den politischen Diskurs ein.
Vor den US-Zwischenwahlen sind laut New York Times hunderte gefälschte Pro-Trump-Konten in sozialen Netzwerken aufgetaucht, die mit KI-generierten Influencern gegen die "radikale Linke" posten und "America First" verbreiten.
Die Zeitung identifizierte seit Januar mindestens 304 solcher Konten auf TikTok. Das Purdue-Forschungslabor GRAIL fand ein Dutzend weitere auf TikTok, Instagram und Facebook, der Analyst Eric Nelson von der Sicherheitsfirma Alethea neun auf YouTube. Beispiele sind der TikTok-Account @perezfernandaus und der mittlerweile gelöschte Instagram-Account "jessicaa.foster" (siehe zweites Video unten).
Einige Konten haben mehr als 35.000 Follower, einzelne Posts mehr als eine halbe Million Aufrufe. Donald Trump teilte selbst Inhalte eines blonden Avatars mit unbelegten Behauptungen über Kaliforniens Gouverneur. Wer hinter den Accounts steckt, ist unklar. Zuhair Lakhani, Mitgründer des KI-Werbe-Startups Doublespeed, schätzt die Generierungskosten gegenüber der NYT pro Post auf 1 bis 3 Dollar, ausgeführt durch eine einzelne Person.
TikTok stuft die Accounts als Spam ein und will sie entfernen; Anzeichen für eine koordinierte Einflussoperation gebe es nicht, es handle sich um Spammer auf der Jagd nach Interaktionen.
Die NYT kommt zu einem anderen Schluss: Es gebe Cluster mit identischer Sprache, identischen Profilbildern und Soundeffekten. Dieselben Figuren tauchten in mehreren Accounts auf, etwa eine Blondine mit Zöpfen auf einem Bauernhof oder eine Schwarze Frau mit roter MAGA-Kappe und Pilotenbrille. Einige Konten folgen einander. Vergleichbare linke Netzwerke wurden nicht gefunden.
Auch in Japan verbreiteten sich rund um die Unterhauswahl gefälschte KI-Videos und Nachrichten in sozialen Medien. Laut einer Umfrage von Professor Shinichi Yamaguchi von der International University of Japan hielten 51,5 Prozent der Befragten solche Falschnachrichten für wahr.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
