Gesetzentwürfe des Innen- und Justizministeriums sollen Sicherheitsbehörden weitreichende neue Befugnisse für KI-gestützte Überwachung geben. AlgorithmWatch warnt vor einer europarechtswidrigen Massenüberwachung.
Bundesinnenminister Alexander Dobrindt und das Justizministerium haben Anfang März drei Referentenentwürfe vorgelegt, die Sicherheitsbehörden neue KI-gestützte Ermittlungsinstrumente geben sollen. Am 29. April stehen die Vorhaben auf der Tagesordnung des Bundeskabinetts.
Die Entwürfe des BMI und BMJV sehen zwei neue Kernbefugnisse vor: den automatisierten biometrischen Abgleich mit öffentlich zugänglichen Daten aus dem Internet sowie den Einsatz verfahrensübergreifender Analyseplattformen.
Konkret sollen das Bundeskriminalamt, die Bundespolizei und das Bundesamt für Migration und Flüchtlinge (BAMF) das Recht erhalten, biometrische Daten wie Gesichtsbilder oder Stimmaufnahmen aus dem Internet zu erheben und automatisiert mit Daten aus Polizeidatenbanken abzugleichen. Laut den Referentenentwürfen des BMI dient dies der "Identifizierung, Aufenthaltsermittlung, Erforschung des Sachverhalts oder Ermittlung von Zusammenhängen". Ein Abgleich mit Echtzeitdaten wie Livestreams soll ausdrücklich ausgeschlossen sein. Parallel dazu sieht der Entwurf des Justizministeriums die gleiche Befugnis zur Strafverfolgung in der Strafprozessordnung vor. Dort soll sogar der biometrische Abgleich für Zeugen zulässig sein, nicht nur für Beschuldigte.
Bundesregierung begründet die Entwürfe mit Terrorismus und organisierter Kriminalität
Die Entwürfe verweisen zur Begründung auf die "hohe abstrakte Bedrohungslage" durch internationalen Terrorismus und auf eine Reihe schwerer Gewalttaten im Jahr 2025: Mannheim, Solingen, Magdeburg, Aschaffenburg und Hamburg. "Die Bedrohung durch terroristische und kriminelle Strukturen erfordert den Einsatz technologischer Instrumente, auch Künstlicher Intelligenz, in der Gefahrenabwehr und der Strafverfolgung", heißt es in der Gesetzesbegründung des BMI.
Neben dem biometrischen Internetabgleich enthalten die Entwürfe eine zweite weitreichende Befugnis: die automatisierte Datenanalyse. Polizeidaten liegen in zahlreichen unverbundenen Systemen – Vorgangsbearbeitung, Fallbearbeitung, Informationssysteme wie INPOL –, die bislang manuell abgefragt werden. Die neuen Befugnisse sollen es Sicherheitsbehörden ermöglichen, Daten aus verschiedenen polizeilichen Informationssystemen mittels einer Software zusammenzuführen und zu analysieren. Laut den Gesetzentwürfen können dabei "datei- und informationssystemübergreifend Beziehungen oder Zusammenhänge zwischen Verfahren, Vorgängen, Personen, Personengruppierungen, Institutionen, Organisationen, Objekten und Sachen identifiziert und hergestellt werden". Solche Analysen bietet unter anderem der US-Konzern Palantir an.
Die Bundesregierung beruft sich zur Rechtfertigung auf ein Urteil des Bundesverfassungsgerichts vom 16. Februar 2023, das den Einsatz entsprechender Systeme in Hessen und Hamburg beanstandet und eine ausdrückliche Ermächtigungsgrundlage gefordert hatte. Die Entwürfe versuchen nun, diese Grundlage zu schaffen.
In den Entwürfen gelten keine einheitlichen Hürden dafür, wann die neuen Befugnisse eingesetzt werden dürfen. In der Strafprozessordnung soll der biometrische Internetabgleich an den Verdacht einer Straftat "von auch im Einzelfall erheblicher Bedeutung" geknüpft werden, die verfahrensübergreifende Datenanalyse an "auch im Einzelfall schwerwiegende" Taten aus dem Katalog des § 100a StPO. Für Nicht-Juristen heißt das: In diesem Bereich sollen die Instrumente vor allem bei schweren Strafverfahren eingesetzt werden.
In den Entwürfen für BKA und Bundespolizei liegen die Schwellen je nach Befugnis anders: Teilweise geht es ebenfalls um den Verdacht schwerer Straftaten, teilweise schon um gefahrenabwehrrechtliche Lagen, also um Fälle, in denen Behörden annehmen, dass eine schwere Tat bevorsteht oder besonders wichtige Rechtsgüter wie Leib, Leben oder die Sicherheit des Bundes bedroht sind.
Beim BAMF ist die Hürde noch einmal anders gelagert: Dort soll der biometrische Abgleich zur Feststellung von Identität oder Staatsangehörigkeit möglich sein, wenn jemand keine gültigen Papiere vorlegt. Vorgesehen sind außerdem Protokollierungspflichten, Löschfristen und ein Verbot automatisierter Einzelentscheidungen.
Auslagerung an private Firmen im Ausland hebelt Schutzmechanismen aus
Laut einer Stellungnahme von AlgorithmWatch funktioniert der vorgesehene Abgleich mit Internetbildern ohne den Aufbau einer Datenbank allerdings nicht. Ein von der Organisation beauftragtes Gutachten und eine Analyse der Wissenschaftlichen Dienste des Bundestags kommen zu dem Schluss, dass Bilder im Netz zuerst gesammelt, vorverarbeitet und in biometrische Muster überführt werden müssen, bevor ein effizienter Abgleich möglich ist.
Genau das verbietet jedoch Artikel 5 Absatz 1 Buchstabe e der europäischen KI-Verordnung: das "Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung von KI-Systemen, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet erstellen oder erweitern".
Die Gesetzentwürfe umgehen das Dilemma laut AlgorithmWatch mit einer Auslagerungsklausel, also der Möglichkeit, den biometrischen Abgleich an private Unternehmen im In- und Ausland auszulagern. Das BKA soll den Abgleich "durch eine öffentliche oder nichtöffentliche Stelle in einem Drittstaat durchführen lassen" dürfen, wenn es den Abgleich selbst technisch nicht leisten kann. Unter bestimmten Bedingungen darf dabei sogar von Vorgaben des Bundesdatenschutzgesetzes abgewichen werden.
In einer Stellungnahme bezeichnet die Menschenrechtsorganisation AlgorithmWatch diese Auslagerungsbefugnis als den Versuch, "sämtliche durch die Gesetzestexte eingeführten Beschränkungen ad absurdum" zu führen.
Dass die Praxis solcher Gesichtssuchmaschinen in Europa auf massiven Widerstand der Datenschutzbehörden stößt, zeigen die Bußgelder gegen das US-Unternehmen Clearview AI, das genau solche biometrischen Abgleiche für Strafverfolgungsbehörden anbietet. Die niederländische Datenschutzbehörde verhängte ein Bußgeld von 30,5 Millionen Euro, die französische und griechische jeweils 20 Millionen Euro, die italienische ebenfalls 20 Millionen Euro und die britische 7,5 Millionen Pfund. Neben Clearview AI gibt es weitere mögliche Kandidaten in den USA, Dubai oder Israel.
Die europäischen Datenschutzbehörden, der Europäische Datenschutzbeauftragte und die ehemalige UN-Hochkommissarin für Menschenrechte sehen in dem massenhaften biometrischen Abgleich "gravierende Verstöße gegen elementare Datenschutzregeln und grundrechtliche Garantien", so AlgorithmWatch.
AlgorithmWatch setzt sich für ein grundsätzliches Verbot biometrischer Massenerkennungssysteme ein
AlgorithmWatch hält die vorgeschlagenen Befugnisse für "europarechtswidrig" und mit verfassungsrechtlichen Mindestanforderungen nicht vereinbar. In der Stellungnahme argumentiert AlgorithmWatch, dass die Maßnahme eine "extrem hohe Streubreite" habe: Betroffen seien potenziell alle Menschen, von denen Gesichtsbilder oder Audiodateien im Internet zugänglich sind, darunter auch Aufnahmen von Demonstrationen, Parteiveranstaltungen oder Gottesdiensten. Dies berühre besonders sensible Daten und habe eine "zutiefst einschüchternde Wirkung", da Menschen nicht wüssten, ob und wann ihre Daten durch KI-Systeme ausgewertet würden.
Die Organisation empfiehlt daher, die Gesetzentwürfe vollständig zurückzuziehen und stattdessen "ein grundsätzliches gesetzliches Verbot des Einsatzes biometrischer Massenerkennungssysteme für öffentliche und private Stellen einzuführen". Dafür hat es eine Petition gestartet. Zu den Erstunterzeichnern gehören unter anderem Reporter ohne Grenzen, Amnesty International Deutschland, der Chaos Computer Club und die frühere Bundesjustizministerin Sabine Leutheusser-Schnarrenberger.
AlgorithmWatch verweist zusätzlich auf ein parallel laufendes Vorhaben des Finanzministeriums: Im Gesetzentwurf zur Stärkung der Zollverwaltung erhält auch die Zollverwaltung Befugnisse zum biometrischen Internetabgleich und zu automatisierten Datenanalysen, inklusive eines neuen Verwaltungsverfahrens zur Einziehung verdächtiger Vermögenswerte.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
