Die EU-Kommission leitet ein neues Verfahren gegen Elon Musks Unternehmen X wegen mutmaßlicher Verstöße seines Chatbots Grok ein. Die Kommission will mit dem Verfahren prüfen, ob X genug dagegen getan hat, dass mithilfe von Grok mutmaßlich illegale, sexualisierte Deepfakes über X verbreitet werden konnten. Auch KI-generierte Aufnahmen von Kindesmissbrauch hätten dadurch mutmaßlich verbreitet werden können, hieß es in einer Mitteilung der Kommission am Montag. EU-Bürger seien dadurch einer »ernsten Gefahr« (im englischen Original »serious harm«) ausgesetzt gewesen.
Seit einem Update des KI-Bots Ende Dezember konnten mit Grok freizügige, teils pornografische, Deepfakes kreiert werden. Mit dem Programm konnten laut Berichten auch echte Personen in Bikinis oder sexualisierte Posen montiert werden. Dies geschieht ohne Zustimmung der Betroffenen. Die Bildgenerierung von Grok ist in der Social-Media-Plattform X integriert, was dazu führt, dass die Aufnahmen dort auch weitverbreitet werden können.
Von solchen sogenannten Deepfake-Pornos sind vor allem Frauen betroffen. Laut einer Untersuchung der Organisation AI Forensics soll Grok auch genutzt worden sein, um entsprechende Aufnahmen von Minderjährigen zu erstellen. X hatte nach umfassender internationaler Kritik Mitte Januar reagiert und erklärt, dass man Grok am Erstellen von sexualisierten KI-Nacktbildern hindern wolle. Elon Musk selbst schrieb zudem, dass ihm kein einziger Fall bekannt sei, in dem Nacktaufnahmen von Minderjährigen von Grok erstellt worden seien. Die Experten von AI Forensics allerdings stellten auch nach der Ankündigung von X fest, dass Grok offenbar entsprechend genutzt würde.
EU-Kommission offenbar unter Handlungsdruck
Die EU-Kommission war in den vergangenen Tagen zunehmend unter Druck geraten, nachdem mehrere Länder gegen Grok vorgegangen waren. In einem Brief hatten Abgeordnete des EU-Parlaments die Kommissionspräsidentin Ursula von der Leyen (CDU) zum sofortigen regulatorischen Handeln aufgefordert. »KI-generierte Kinderpornografie sollte in Europa verboten sein«, hieß es in dem Brief, der von Abgeordneten der liberalen Renew-Europe-Fraktion, aber auch von SPD, Grünen und CDU, unterzeichnet war.
Die Kommission hatte Elon Musks Unternehmen X bereits Mitte Januar Fragen zu den von Grok generierten sexualisierten Bildern geschickt. X hat auch bereits Antworten geschickt, die die EU-Kommission aber offenbar noch nicht zufriedenstellen, wie das nun eröffnete Verfahren zeigt. In der Kommission arbeiten mehrere Mitarbeiter in den DSA-Teams an dem Verfahren. Der Fall sei eine »Top-Priorität für die Kommission«, hieß es von der Kommission.
Die Kommission stützt sich in dem Verfahren auf den Digital Services Act (DSA) und nicht das KI-Gesetz an. Die Kommission ist der Ansicht, dass der eigentlich für Social-Media-Plattformen geltende DSA in dem Fall greift, weil der KI-Chatbot vollständig in die Social-Media-Plattform eingebettet sei, hieß es. Außerdem bietet der DSA der Kommission einen eingeübten Weg für Verfahren gegen US-Techkonzerne, was das Verfahren beschleunigen dürfte.
