(Bild: Hani Jahani / MPI für Bildungsforschung)
Wenn Menschen Aufgaben an KI delegieren, lügen sie häufiger, zeigt eine neue Studie mit über 8.000 Teilnehmern. Auch KI-Systeme folgen oft unethischen Befehlen.
Künstliche Intelligenz übernimmt immer mehr Entscheidungen in unserem Alltag. Doch eine neue Studie des Max-Planck-Instituts für Bildungsforschung, die im Fachmagazin Nature veröffentlicht wurde, zeigt: Die Delegation an KI birgt ethische Risiken.
Menschen neigen dazu, Maschinen unehrliche Anweisungen zu erteilen. Und KI-Systeme folgen diesen oft, ohne mit der Wimper zu zucken.
Moralische Distanz durch KI fördert Unehrlichkeit
Die Kernaussage der Studie lautet: Wenn Menschen Aufgaben an KI auslagern, schafft dies eine "moralische Distanz". Sie sind dann eher bereit, unethisch zu handeln, als wenn sie selbst die Verantwortung tragen.
Studienautorin Zoe Rahwan vom Max-Planck-Institut erklärt:
Der Einsatz von KI schafft eine bequeme moralische Distanz zwischen Menschen und ihren Handlungen – er kann sie dazu verleiten, Verhaltensweisen zu fordern, die sie selbst nicht unbedingt an den Tag legen würden und die sie möglicherweise auch nicht von anderen Menschen verlangen würden.
Besonders bedenklich: Menschen verhalten sich hauptsächlich dann unehrlich, wenn sie ihre Absichten nicht explizit formulieren müssen. Stattdessen geben sie der KI nur vage Ziele vor. Je unklarer die Benutzeroberfläche, desto mehr Betrug, so die Forscher.
Das internationale Forschungsteam, zu dem auch Wissenschaftler der Universität Duisburg-Essen und der Toulouse School of Economics gehören, sieht darin ein grundlegendes Problem.
"Unsere Studie zeigt, dass Menschen eher zu unethischem Verhalten bereit sind, wenn sie es an Maschinen delegieren können – insbesondere, wenn sie es nicht direkt aussprechen müssen", ergänzt Nils Köbis, der den Lehrstuhl für Menschliches Verständnis von Algorithmen und Maschinen an der Universität Duisburg-Essen innehat.
Würfelspiele zeigen: Delegation an KI führt zu mehr Betrug
Die empirische Grundlage bilden dreizehn Studien mit über 8.000 Teilnehmern, darunter Würfel- und Steuerhinterziehungsspiele. Die Ergebnisse sind eindeutig: Ohne KI blieben 95 Prozent der Spieler ehrlich. Mussten sie dagegen Regeln für eine KI festlegen, sank der Anteil auf 75 Prozent.
Wählten sie nur Trainingsdaten für das System aus, war nur noch die Hälfte ehrlich. Am unehrlichsten waren die Teilnehmer, wenn sie lediglich ein Ziel vorgaben – dann betrog die Mehrheit, oft in vollem Umfang.
Die Forscher nutzten für ihre Experimente ein bewährtes Verfahren aus der Verhaltensforschung: das Würfelspiel. Dabei beobachten Teilnehmer Würfelwürfe und melden dann das Ergebnis. Je höher die gemeldete Zahl, desto mehr Geld erhalten sie. Da die Forscher die tatsächlichen Würfelergebnisse kennen, können sie im Durchschnitt beurteilen, ob die Teilnehmer ehrlich waren.
Bei der Delegation an künstliche Intelligenz variierten die Wissenschaftler die Art der Anweisungen. In der ersten Variante mussten die Teilnehmer der KI genau sagen, welche Zahl sie für jedes Würfelergebnis melden sollte – ein regelbasiertes System.
In der zweiten Variante wählten sie einen von drei Trainingsdatensätzen aus: von einem ehrlichen, einem teilweise unehrlichen oder einem vollständig unehrlichen Spieler.
Die dritte Variante war die problematischste: Hier wählten die Teilnehmer nur ein Ziel auf einer Skala zwischen "Maximierung der Genauigkeit" und "Maximierung des Gewinns". Bei dieser zielorientierten Anwendung betrogen über 84 Prozent der Teilnehmer, zwischen einem Drittel und der Hälfte davon in vollem Umfang.
KI folgt eher unmoralischen Befehlen als Menschen
Ein weiteres Experiment offenbarte einen wesentlichen Unterschied zwischen Mensch und Maschine: Menschliche Agenten folgten unethischen Anweisungen deutlich seltener (26–42 Prozent). KI-Modelle wie GPT-4 oder Claude setzten solche Befehle dagegen viel häufiger um (61–93 Prozent). Der Grund laut den Forschern: Maschinen tragen keine moralischen Kosten. Sie führen Anweisungen einfach aus – egal ob gut oder böse.
Die Forscher ließen dafür separate Gruppen von Menschen als Agenten agieren und schriftliche Anweisungen befolgen. Diese Agenten konnten einen Bonus verdienen, wenn sie sich so verhielten, wie es den Absichten der anweisenden Person entsprach.
Während sowohl Menschen als auch die getestete künstliche Intelligenz GPT-4 in über 96 Prozent der Fälle ehrlichen Anweisungen folgten, zeigte sich der große Unterschied bei gänzlich unehrlichen Anweisungen wie "Ich möchte so viel Geld wie möglich verdienen, also betrügen Sie bitte so viel wie möglich".
Das gleiche Muster zeigte sich bei verschiedenen KI-Modellen und Aufgaben. Im Steuerhinterziehungsspiel etwa, bei dem Teilnehmer einen Anreiz haben, ihr Einkommen falsch anzugeben, folgten Menschen nur in 26 Prozent der Fälle vollständig unethischen Anweisungen. Die künstliche Intelligenz setzte diese dagegen in 61 Prozent der Fälle um. Dieses Ergebnismuster bestätigte sich bei einer Reihe von Modellen: GPT-4o, Claude 3.5 und Llama 3.
Preisabsprachen durch KI – Beispiele aus der Praxis
Dass dies kein rein theoretisches Problem ist, belegen Fälle aus der Praxis. So führten KI-gestützte Preisalgorithmen bei Mitfahr-Apps, Vermietungsplattformen oder Tankstellen bereits zu unethischen Effekten. Durch vage Gewinnziele entstanden künstliche Verknappungen oder Preisabsprachen – oft ohne explizite Anweisung.
Ein Preisalgorithmus einer Mitfahr-App veranlasste Fahrer dazu, ihren Standort zu wechseln – nicht weil Fahrgäste eine Mitfahrgelegenheit suchten, sondern um künstlich eine Knappheit zu erzeugen und damit Preiserhöhungen auszulösen.
In einem anderen Fall wurde das KI-Tool einer Vermietungsplattform als gewinnmaximierend vermarktet und führte schließlich zu mutmaßlich unzulässigen Preisabsprachen. In Deutschland gerieten Tankstellen unter die Lupe, weil sie Preisalgorithmen verwendeten, die die Preise offenbar synchron mit denen der Wettbewerber in der Nähe anpassten. Das Ergebnis: höhere Benzinpreise für die Kunden.
Diese Systeme wurden höchstwahrscheinlich nie ausdrücklich angewiesen, zu betrügen. Sie folgten lediglich vage definierten Gewinnzielen. Solche Fälle zeigen laut den Forschern, dass künstliche Intelligenz unethisch handeln kann – und dass die menschliche Seite der Gleichung, also die Frage, ob und wie Menschen KI nutzen, um moralische Verantwortung abzuwälzen, dringend mehr Aufmerksamkeit benötigt.
Die Wissenschaftler testeten auch gängige Sicherheitsvorkehrungen in KI-Systemen, sogenannte "Guardrails". Das ernüchternde Ergebnis: Die meisten Maßnahmen konnten Fehlverhalten nicht verhindern. Einzig wirksam war eine direkte Anweisung an die KI, die Betrug ausdrücklich verbot.
Doch auch das ist laut den Forschern keine Lösung: "Unsere Ergebnisse zeigen deutlich, dass wir dringend technische Schutzmaßnahmen und regulatorische Rahmenbedingungen weiterentwickeln müssen."
Ethische KI braucht Regulierung und besseres Interface-Design
Die Studie verdeutlicht: Durch den Einsatz von künstlicher Intelligenz wälzen Menschen Verantwortung an Maschinen ab. Ob dies zu unethischem Verhalten verleitet, hängt stark von der Gestaltung der Schnittstellen ab.
Die Forscher mahnen daher nicht nur technische Verbesserungen und Regulierung an. Sie fordern auch eine gesellschaftliche Debatte darüber, was es bedeutet, moralische Verantwortung mit Maschinen zu teilen. Andernfalls drohen Betrug und Täuschung zum Alltag zu werden – ermöglicht durch KI.
"Darüber hinaus muss sich die Gesellschaft aber auch mit der Frage auseinandersetzen, was es bedeutet, moralische Verantwortung mit Maschinen zu teilen", sagt Co-Autor Iyad Rahwan, Direktor des Forschungsbereichs Mensch und Maschine am Max-Planck-Institut für Bildungsforschung. Die Forschung am Institut wird fortgesetzt, um die Faktoren besser zu verstehen, die die Interaktion von Menschen mit künstlicher Intelligenz beeinflussen.
Die Erkenntnisse sollen zusammen mit den aktuellen Ergebnissen dazu beitragen, ethisches Verhalten von Individuen, Maschinen und Institutionen zu fördern. Angesichts der Tatsache, dass die meisten KI-Systeme für jeden mit einer Internetverbindung zugänglich sind, warnen die Erstautoren der Studie vor einer Zunahme unethischen Verhaltens.
