Angesichts des anhaltenden Skandals um sexualisierte Deepfakes des KI-Chatbots Grok hat die britische Regierung angekündigt, in dieser Woche mit der Durchsetzung eines Gesetzes dagegen beginnen und zudem Anwendungen verbieten zu wollen, mit denen Menschen digital entkleidet werden können. Das hat Technologieministerin Elizabeth Kendall am Montag im britischen Unterhaus gesagt und das Vorgehen von X dabei scharf kritisiert. Vorher hat die britische Medienaufsicht die bereits vorab publik gewordenen Ermittlungen gegen den Kurznachrichtendienst vorgestellt und darauf hingewiesen, dass diese heftige Strafen zur Folge haben können.
Lesen Sie auch
Hohe Strafen bereits möglich
Kendall hat die mithilfe des KI-Chatbots generierten Inhalte als „abscheulich“ und einen „Affront gegen die anständige Gesellschaft“ bezeichnet. Zudem seien sie illegal. Dass X die Möglichkeit zur Bildgenerierung am Freitag auf kostenpflichtige Accounts beschränkt hat, sei „nicht annähernd genug“. Es sei eine Beleidigung für die Opfer, wenn man sage, der Dienst sei weiterhin abrufbar, man müsse nur dafür bezahlen. Ein Gesetz aus dem vergangenen Jahr stelle Generierung oder die Bitte um die Generierung von intimen Bildern ohne Einverständnis der Betroffenen unter Strafe. In dieser Woche werde man mit der Durchsetzung beginnen. Zudem soll mit einem derzeit vorbereiteten Gesetz Apps explizit unter Strafe gestellt werden, die KI-generierte Nacktfotos bereitstellen.
Vorher hat die Medienaufsicht Ofcom Details zu den Ermittlungen gegen X publik gemacht, in denen es ebenfalls um die sexualisierten Deepfakes geht, die Grok in großen Mengen öffentlich generiert hat. Untersucht wird, ob der Kurznachrichtendienst angemessene Schritte unternimmt, damit User auf X keine Darstellungen von Kindesmissbrauch zu sehen bekommen und wie der Dienst Risiken minimiert. Zudem werde geprüft, wie der Dienst dafür sorgt, dass illegale Inhalte möglichst rasch von der Plattform entfernt werden. Den Ermittlungen liegt demnach eine Antwort von X auf eine diesbezügliche Anfrage zugrunde. Sollten Verstöße festgestellt werden, könne eine Strafe in Höhe von 18 Millionen Pfund (über 20 Millionen Euro) oder 10 Prozent des weltweiten Umsatzes verhängt werden.
Die sexualisierten Deepfakes von Grok sorgen seit Tagen für Empörung in aller Welt. Anfangs konnten User einfach unter beliebigen Fotos auf der Plattform darum bitten, die gezeigte Person etwa in einem Bikini darzustellen. Dem oder ähnlichen Anfragen ist der KI-Chatbot dann nachgekommen, teilweise sogar bei Minderjährigen. Am Freitag wurde die Bildgenerierung dann aber soweit beschränkt, dass sie direkt auf X nur noch von Accounts beantragt werden konnte, für die bezahlt wird. In Direktnachrichten oder auf der eigenen Website kommt Grok solchen Aufträgen aber weiterhin auch bei nicht zahlenden Usern nach. Als erste Staaten haben Indonesien und Malaysia den Chatbot deshalb am Wochenende komplett sperren lassen.
(mho)
