Eine Reportage der Journalistin Ellen Cushing beschreibt, wie sich Software, die Emotionen per KI auswerten will, im Arbeitsalltag ausbreitet.
Autorin Ellen Cushing testete den Dienst MorphCast an sich selbst: Das Programm analysierte ihr Gesicht in einem Meeting und attestierte ihr "amüsiert", "entschlossen" und gelegentlich "ungeduldig". Der Selbstversuch dient als Aufhänger für eine Bestandsaufnahme einer Branche, die unter den Stichworten "Emotion AI" oder "affective computing" rasch wächst.
Entsprechende Produkte werten mittlerweile Videos aus Bewerbungsgesprächen, Audio aus Callcentern oder Chatverläufe aus. MetLife überwacht die Tonlage von Callcenter-Mitarbeitenden, Burger King testet einen Headset-Chatbot namens "Patty", der Freundlichkeit bewertet und der Möbelhersteller Framery hat sogar Bürostühle mit Biosensoren für Herzfrequenz und Nervosität ausprobiert. Slack-Erweiterungen wie Aware und Microsofts Azure bieten Sentiment-Analysen für interne Kommunikation an, Anbieter wie Imentiv vermarkten Emotionsauswertung für Vorstellungsgespräche.
Wissenschaftlich umstritten, juristisch teils verboten
Cushing stellt in ihrem Bericht auch die wissenschaftliche Grundlage infrage. Viele Produkte stützten sich auf Paul Ekmans Theorie sechs universeller Basisemotionen, die seit Jahrzehnten als methodisch fragwürdig gelten. Die Neurowissenschaftlerin Lisa Feldman Barrett wird mit der Aussage zitiert, Mimik habe keine "inhärente emotionale Bedeutung", sondern eine relationale: In den USA zögen Menschen nur in rund 35 Prozent der Wutmomente die Stirn kraus. Eine Studie von Lauren Rhue habe gezeigt, dass Emotion-KI schwarze NBA-Spieler systematisch als wütender klassifiziere als weiße, teils sogar beim Lächeln.
Aufbauend auf fragwürdiger Pseudo-Wissenschaft und unkontrolliertem Einsatz von Mitarbeiterüberwachung gäbe es bereits konkrete Schäden: Bei UnitedHealth seien Sozialarbeiter laut einer NYT-Recherche von 2022 wegen Tastatur-Inaktivität abgewertet worden, während sie in Patientengesprächen waren. Die ACLU werfe der Bewerbungsplattform HireVue und dem Kunden Intuit vor, eine gehörlose Mitarbeiterin um eine Beförderung gebracht zu haben, weil das System ihr fehlende "aktive Zuhörfähigkeit" attestierte. HireVue und Intuit weisen die Vorwürfe zurück.
Die EU hat solche Emotion-KI am Arbeitsplatz im Rahmen des AI Act derweil bis auf medizinische und Sicherheitszwecke verboten. MorphCast verlegte daraufhin den Sitz von Florenz in die Bay Area. Der globale Markt soll sich bis 2030 laut einer im Atlantic zitierten Schätzung auf neun Milliarden Dollar verdreifachen.
Cushing schließt ihre lesenswerte Reportage mit einer dystopischen Pointe: Bedrohlicher als fehlerhafte Systeme sei eine Zukunft, in der die Software tatsächlich präzise messe und Beschäftigte gezwungen wären, zusätzlich zu ihrer Arbeit permanent das Wohlgefallen einer Maschine zu erzeugen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
