Trotz neuer EU-Verordnung: Bislang wurden nur ein Fünftel der Beschäftigten im KI-Einsatz geschult. Experten warnen vor Grundrechtsverletzungen.
Künstlicher Intelligenz (KI) ist in den Betrieben inzwischen üblich. So wird nicht mehr nur ChatGPT zur Texterzeugung genutzt, sondern die Technik selbst zur Arbeitssteuerung oder Personalauswahl eingesetzt. Die EU-KI-Verordnung (EU-KI-VO) macht Vorgaben zum KI-Einsatz. Aber Pflichten ohne Konsequenzen werden von Unternehmen häufig ignoriert.
Die Probleme zeigt die KI-Weiterbildung auf. Denn derzeit gibt es keine Aufsichtsbehörde, die Bußgelder auf Basis der Verordnung veranlassen kann. Artikel 4 der EU-KI-Verordnung verpflichtet Unternehmen zur Qualifizierung. KI-Nutzer müssen geschult werden, um die Risiken einschätzen zu können. Darüber sind sich Experten einig.
Die Möglichkeiten, die KI im Arbeitsalltag eröffnet, wachsen schneller, als sich das nötige Wissen darüber aneignen lässt. In dieser Gemengelage hilft fundiertes Wissen, Unsicherheiten zu begegnen und handlungsfähig zu bleiben. Mitarbeitende sollten gezielt darin unterstützt werden, sich in ihrem jeweiligen Fachbereich mit den Entwicklungen in der KI-Welt auseinanderzusetzen.
Kimberly Breuer, Geschäftsführerin der Unternehmensberatung niloDie Praxis sieht aber anders aus. Bislang wurden lediglich ein Fünftel der Beschäftigten im KI-Einsatz geschult, obwohl die Schulungspflicht seit 1. Februar 2025 besteht. Das ergab eine Bitkom-Umfrage im Juli.
Jetzt erst liegt ein Gesetzesentwurf für die KI-Aufsicht vor. Die Aufsicht soll weitgehend in die Hände der Bundesnetzagentur gelegt werden. Die geplante Neuregelung sorgt bereits für massive Kritik. "Der entsprechende Referentenentwurf führt zu einer massiven Schwächung von Grundrechten", kritisiert Meike Kamp, Berliner Beauftragte für Datenschutz und Informationsfreiheit.
In einer gemeinsamen Pressemitteilung der Landesaufsichtsbehörden für den Datenschutz wird eine andere Regelung gefordert.
Kontrolle durch Bundesnetzagentur statt Datenschutz
Die Bundesnetzagentur sei eher für Marktbeobachtung, nicht für Grundrechte zuständig.
Die Datenschutzaufsichtsbehörden, die die Grundrechte der Bürgerinnen und Bürger wahren und stärken, sollen also eben deswegen künftig keine Rolle spielen bei der Aufsicht, und das in diesem sehr sensiblen Bereich. Das lässt ein merkwürdiges Verständnis der Bedeutung von Grundrechten und auch über die Aufgaben der Datenschutzaufsicht erkennen.
Meike KampDie EU-KI-VO gilt für alle Unternehmen mit Sitz in der EU – und zwar nach dem Marktortprinzip gemäß Art. 2 EU KI-VO auch unabhängig vom Standort des Betreibers, solange der KI-Einsatz für Nutzer in der EU erfolgt.
So sollen Standards in allen Unternehmen gesetzt werden, die auf einem risikobasierten Ansatz beruhen, der KI-Systeme in Kategorien einteilt: verbotene, hochriskante, begrenzte Risiko- und geringe Risiko-Systeme.
Verbotene KI-Systeme sind Systeme, die manipulative, irreführende Techniken anwenden, um das Verhalten von Menschen zu beeinflussen. Oder das System soll Schwächen auszunutzen, etwa aufgrund von Alter oder Behinderung. Auch die Nutzung von biometrischen Daten zur Kategorisierung von Personen fällt in diese Kategorie.
Bußgelder derzeit nur Papiertiger
Die fehlende Risikoabschätzung hat Konsequenzen. "Es ist ein Riesenproblem, wenn Daten von Kunden in öffentlich verfügbare Tools geschoben werden", sagt Sina Wulfmeyer von der Züricher Firma Unique, die KI für Banken entwickelt. Zu Datenabflüssen komme es, wenn die offiziellen, hauseigenen Techniken keine hohen Standards haben und Anwender nicht ausreichend geschult sind.
"Das Thema ist wichtig und betrifft alle gesellschaftlichen Gruppen", sagt Kilian Vieth-Ditlmann von AlgorithmWatch. Aber nicht nur Datensicherheit ist wichtig. "Es geht um Diskriminierungsschutz, Verbraucherschutz, Datenschutz und Umweltschutz."
Der Einsatz verbotener KI kann mit einer Geldstrafe von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Umsatzes geahndet werden. Verstöße gegen Betreiberpflichten können eine Geldstrafe von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Umsatzes nach sich ziehen. Bisher bestehen die Vorgaben nur auf dem Papier.
Übergangsfristen zu lang
Hochriskante KI-Systeme umfassen unter anderem biometrische Identifikationssysteme, Systeme zur Bewertung von Arbeitnehmern oder Bewerbern. Solche Systeme unterliegen strengen Anforderungen gemäß Art. 26 und 27 EU KI-VO. Vorgeschrieben sind technische und organisatorische Maßnahmen, und die menschliche Beaufsichtigung.
Kritisch sieht Digitalpolitikerin Anke Domscheit-Berg die langen Übergangsfristen für Behörden, die erst ab 2030 Pflichten für Hochrisiko-KI einhalten müssen. "Wie kann man bei einem staatlichen Machtmonopol mit hohen Ansprüchen an die Einhaltung von Grundrechten eine derartige Ausnahme machen?", fragt sie.
Einsatz der KI setzt Menschen unter Druck
Manche Menschen haben das Gefühl, KI überhole langsam das menschliche Denken. Sei es privat oder im Arbeitsleben.
Wir sind auch kommunikativ, wir sind empathisch, wir sind kreativ. Das ist alles nicht intelligent. Und da sieht man schon, dass es genau auf diese Fähigkeiten in Zukunft sehr viel mehr ankommen wird, wenn wir Systeme haben, die ebendiesen Intelligenzbereich besser abdecken können.
Henning Beck, NeurowissenschaftlerDabei wird mit KI erheblicher Druck auf die Beschäftigten ausgeübt. Denn die Daten erlauben es Unternehmen, jeden Prozess zu analysieren. "Technostress" nennt das die Arbeitsschutzexpertin Sabine Heegner in der Fachzeitschrift Arbeitsrecht im Betrieb.
Stress bezeichnet das Gefühl, das eine Person hat, wenn die an sie gestellten Anforderungen ihre Fähigkeit zur Bewältigung dieser Anforderungen übersteigen In vielen Verwaltungsbereichen erfolgt die Arbeitsverteilung per Algorithmus oder KI. Unternehmen nutzen Personalmanagementsysteme zur technischen Unterstützung bei strategischen Personalentscheidungen. Ziel dieser Systeme ist Effizienzsteigerung und die damit verbundene Gewinnmaximierung. .
Zudem werden die Techniken immer leistungsstärker und damit komplexer. So schafft etwa das immer präsenter werdende Thema Künstliche Intelligenz (KI) Verunsicherung – sowohl auf theoretischer als auch auf praktischer Ebene.
Sabine HeegnerEine Begrenzung der Datenerfassung und Kontrolle wäre im Interesse der Belegschaften. Der Koalitionsvertrag der neuen Bundesregierung betont die Wirtschaftlichkeit des neuen Kabinetts. Die Umsetzung der EU-Verordnung zeigt, was dies in der Praxis bedeutet.
