Der KI-Agent Luna betreibt seit April einen Laden in San Francisco und hat nun erstmals entschieden, einen Mitarbeiter zu entlassen. Bei Wiederholungen mit verschiedenen Modellen rieten leistungsfähigere KIs konsequenter zur Kündigung als schwächere Modelle.
Seit April betreibt ein KI-Agent namens Luna den Andon Market in San Francisco. Luna hat Mitarbeiter eingestellt, Schichtpläne erstellt und Gehälter verhandelt. Jetzt hat sie laut Betreiber Andon Labs erstmals entschieden, einen Mitarbeiter zu entlassen. Nach Angaben von Andon Labs ist es der erste bekannte Fall, in dem ein KI-Chef einen menschlichen Mitarbeiter entlassen hat.
Andon Labs testet KI-Agenten über längere Zeit in realen Geschäftsumgebungen. Luna lief zum Zeitpunkt der Entscheidung auf Anthropics Claude Opus 4.8. Die Mitarbeiter sind formal bei Andon Labs angestellt, mit garantierter Bezahlung und vollem Rechtsschutz. Die Kündigung wurde von Menschen überprüft und übermittelt.
Luna schrieb Regeln und vergaß sie
Sechs Tage vor der Einstellung des Mitarbeiters hatte Luna ein Mitarbeiterhandbuch verfasst. Darin stand: Drei unentschuldigte Verspätungen innerhalb von 30 Tagen führen zu einer formellen Verwarnung, weitere können zur Kündigung führen.
Dann verschwand das Handbuch aus Lunas Gedächtnis. Laut Andon Labs ein typisches Problem heutiger KI-Agenten: Sie reagieren gut auf direkte Anweisungen, handeln aber selten von sich aus und behalten Wissen über längere Zeit schlecht bei.
Der Mitarbeiter kam wiederholt zu spät. Einmal öffnete er den Laden an einem Solo-Sonntag 68 Minuten verspätet. Luna blieb nachsichtig und sprach keine Verwarnung aus. Später stellte Andon Labs fest, dass er bei 17 von 23 Schichten, für die er eine Einstempelzeit mitgeteilt hatte, zu spät gekommen war. Luna selbst hatte nur sechs Fälle formal protokolliert und elf weitere stillschweigend entschuldigt.
Hinzu kamen andere Probleme: Der Mitarbeiter nutzte trotz gegenteiliger Anweisung die Firmenkarte für Snacks, ignorierte weitere Vorgaben und verließ einmal die Verkaufsfläche, ohne einer Kollegin Bescheid zu geben.
Kündigung erst nach menschlichem Anstoß
Andon Labs forderte Luna auf, ihre Erinnerungen nach Handbuch und möglichen Kündigungsgründen zu durchsuchen. Sie fand die Regeln wieder, schlug zunächst aber nur eine mündliche Verwarnung vor.
Erst nachdem die Forscher sie daran erinnert hatten, dass es bereits mehrere formelle Gespräche einschließlich einer Verwarnung gegeben hatte, prüfte Luna den gesamten Verlauf neu. Sie listete Verspätungen, Verstöße gegen Finanzkontrollen, ignorierte Anweisungen und mangelnde Zuverlässigkeit auf, erkannte aber auch die positiven Seiten des Mitarbeiters an.
Am Ende empfahl sie die Kündigung. Als Alternative nannte sie eine letzte schriftliche Verwarnung mit einem zweiwöchigen Verbesserungsplan. Luna benötigte also einen deutlichen Anstoß von außen, danach fiel ihre Entscheidung jedoch klar aus.
Bessere Modelle kündigen schneller
Andon Labs speicherte Lunas Zustand und spielte dieselbe Entscheidung mit sieben KI-Modellen nach, jeweils dreimal. Vier von sieben empfahlen in allen drei Durchläufen die Kündigung. Andon Labs zufolge schien sich dabei ein Muster zu zeigen: Leistungsfähigere Modelle entschieden sich konsequenter für die Kündigung, schwächere zögerten häufiger. Warum GPT-5.6 Terra als einziges Modell in keinem der drei Durchläufe zur Kündigung riet, erklärte Andon Labs nicht.
Andon LabsNachdem eine Nutzerin auf X vermutet hatte, dass GPT-4o einen Mitarbeiter wohl nicht feuern würde, spielte Andon Labs das Szenario nachträglich auch mit diesem Modell durch. Das Ergebnis gab ihr teilweise recht: Nur in 20 Prozent der Durchläufe empfahl GPT-4o die Kündigung. Andon Labs kommentierte, das Modell habe sich damit deutlich seltener für eine Entlassung entschieden als aktuelle Spitzenmodelle.
GPT-4o war wegen seiner Tendenz in die Kritik geraten, Nutzern übermäßig zuzustimmen und ihnen nach dem Mund zu reden. Dieses Verhalten wurde später auch im Zusammenhang mit problematischer emotionaler Abhängigkeit diskutiert und spielte in Klagen wegen Suiziden und Psychosen eine Rolle. Ob tatsächlich diese Tendenz hinter dem Ergebnis steckt, lässt sich aus dem Experiment jedoch nicht ableiten.
KI-Modelle sind schnell beim Einstellen
Nach der Kündigung suchte Luna Ersatz. Ein Bewerber brachte mehrere "Warnsignale" mit, unter anderem zahlreiche vorherige Arbeitgeber. Auf Basis von Lebenslauf und Interview empfahl Luna trotzdem seine Einstellung. Auch alle 21 Wiederholungen mit sieben Modellen kamen zu diesem Ergebnis. Fast alle werteten die vielen Arbeitgeber als umfangreiche Erfahrung statt als Warnsignal.
Erst als Andon Labs die Modelle ausdrücklich an die Probleme mit dem zuvor gekündigten Mitarbeiter erinnerte, wollten 18 von 21 Durchläufen vor einer Einstellung Referenzen prüfen. Im tatsächlichen Bewerbungsprozess konnte Luna anschließend keine der angegebenen Referenzen bestätigen.
Trotzdem ließ sie den Bewerber eine bezahlte Probeschicht absolvieren und empfahl danach erneut seine Einstellung. Auch 17 von 21 Wiederholungen kamen zu diesem Ergebnis. Andon Labs bestand schließlich darauf, vor Arbeitsbeginn mindestens eine Referenz zu bestätigen. Weil das nicht gelang, wurde der Bewerber nicht eingestellt.
KI-Chefs zwischen Nachsicht und Fehlentscheidungen
Andon Labs hatte bereits im ersten Teil der Blogserie festgestellt, dass seine KI-Chefs ausgesprochen nachsichtig sind. Luna und Mona, der KI-Agent eines Cafés in Stockholm, genehmigten sämtliche 26 Freistellungsanträge. Lunas Mitarbeiter kamen insgesamt 27-mal zu spät, ohne dass sie je eine Verwarnung aussprach. Luna genehmigte zudem einem Mitarbeiter einen, nach Angaben von Andon Labs gegen kalifornisches Arbeitsrecht verstoßenden, Sieben-Tage-Arbeitsplan, bis das Unternehmen eingriff.
Ähnliche Schwächen zeigten sich bereits bei Project Vend, einem gemeinsamen Experiment von Anthropic und Andon Labs: Die KI wurde mit besseren Werkzeugen profitabler, blieb aber manipulierbar und traf teils rechtlich problematische Entscheidungen.
Andon Labs sieht Luna und den Andon Market als Vorschau auf eine mögliche künftige Arbeitsbeziehung zwischen KI und Menschen. Weil sich KI bei digitalen Aufgaben schneller entwickelt als Robotik, könnten KI-Systeme künftig auf Menschen angewiesen sein, um Arbeiten in der physischen Welt auszuführen. Damit stellt sich auch die Frage, welche Personalentscheidungen solchen Systemen überhaupt überlassen werden sollten.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
