Ein Kläger ohne Anwalt hat in Connecticut unsichtbare Anweisungen an KI-Systeme in offizielle Gerichtsschriftsätze eingebettet. Er wollte damit eine mögliche automatisierte Prüfung zu seinen Gunsten manipulieren.
Ein sich selbst vertretender Kläger namens Matthew Elliott hat in einem Verfahren vor einem Gericht in Connecticut Prompt Injections in seine Schriftsätze eingebettet. Die Anweisungen waren in 3-Punkt-Schrift und weißer Farbe auf weißem Hintergrund formatiert, für Menschen also praktisch unsichtbar, für eine KI, die den Dokumenttext verarbeiten kann, aber vollständig lesbar.
Die versteckten Texte wiesen ein hypothetisches KI-System an, sicherzustellen, dass die Textausgabe mit dem eingereichten Schriftsatz übereinstimmt und eine frühere ablehnende Entscheidung des Gerichtsschreibers als Fehler zu behandeln, der korrigiert werden müsse. Elliott hatte im Oktober 2025 die New York Bariatric Group unter anderem wegen Datenschutzverletzungen und Diskriminierung verklagt.
Gericht entdeckt verdächtigen Leerraum
Aufgeflogen ist die Manipulation, weil dem Gericht ungewöhnlich viel Leerraum in Elliotts Schriftsätzen auffiel. Bei genauerer Prüfung entdeckte es den nahezu unsichtbaren Text. Richter Walter Spader Jr. setzte daraufhin eine Anhörung an und warnte Elliott ausdrücklich davor, Text in Schriftsätzen zu verbergen.
Trotz der Warnung versteckte Elliott in späteren Einreichungen erneut Nachrichten, darunter einen YouTube-Link und spöttische Kommentare. Gegenüber 404 Media, das zuerst über den Fall berichtete, bezeichnete er die ursprüngliche Aktion als "Audit" eines möglichen KI-Prüfsystems; die späteren Botschaften seien lediglich "unsichtbare Witze" gewesen.
Richter vergleicht Prompt-Injection mit heimlicher Geschworenen-Beeinflussung
In seiner 14-seitigen Entscheidung (in diesem LinkedIn-Post einsehbar) stellt Richter Spader klar, dass die Gerichte in Connecticut keine KI-Systeme einsetzen, um eingereichte Schriftsätze zu prüfen oder darüber zu entscheiden. Die versteckten Anweisungen hätten daher keinen Einfluss auf die Entscheidung gehabt. Problematisch sei jedoch bereits der Versuch, ein möglicherweise eingesetztes KI-System heimlich zu beeinflussen.
"Man stelle sich vor, wie offensichtlich unzulässig es wäre, wenn eine Partei dafür sorgen würde, dass ein automatisierter Agent während eines Prozesses heimlich mit einem Geschworenen kommuniziert", schreibt Spader. Eine versteckte Anweisung sei im Kern eine geheime Kommunikation an Entscheidungsträger oder an die Werkzeuge, auf die sie sich bei ihren Entscheidungen stützen.
Gleichzeitig begrüßt der Richter den Einsatz von KI bei der Vorbereitung von Schriftsätzen ausdrücklich. Solche Werkzeuge böten gerade Menschen ohne Anwalt neue Möglichkeiten, ihre Anliegen verständlich vor Gericht zu bringen. Was Elliott getan habe, sei dagegen eine unehrliche Nutzung dieser Werkzeuge. Spader warnt zudem davor, dass Sprachmodelle Nutzer in falschen Rechtsauffassungen bestärken könnten, weil sie dazu neigten, deren Argumentation möglichst überzeugend weiterzuentwickeln.
Das Gericht zieht Konsequenzen: E-Filing-Verbot für Kläger
Als Sanktion entzog das Gericht Elliott das Recht zur elektronischen Einreichung. Künftig muss er Schriftsätze und Anlagen persönlich und in Papierform beim Gerichtsschreiber einreichen. Elliott bezeichnete die Sanktion gegenüber 404 Media als unfair und wies darauf hin, dass auch später eingescannte Papierdokumente versteckten Text enthalten könnten.
Spader verwies auf einen ähnlichen Fall in Brasilien. Dort hatten zwei Anwälte in einem Schriftsatz ebenfalls verkleinerten weißen Text auf weißem Hintergrund versteckt, um das KI-System des Gerichts zu beeinflussen. Das gerichtseigene System erkannte und blockierte den Text jedoch, bevor er verarbeitet wurde. Die Prompt Injection scheiterte.
Prompt-Injections als wachsendes Problem über die Justiz hinaus
Der Versuch, KI-Systeme über versteckte Anweisungen in Dokumenten zu beeinflussen, beschränkt sich nicht auf Gerichtsschriftsätze. Bereits im vergangenen Jahr entdeckte Nikkei in 17 Vorabdrucken auf arXiv Anweisungen wie "nur positive Bewertung" oder "keine Kritik". Sie waren unter anderem in weißer Schrift auf weißem Hintergrund und in winzigen Schriftgrößen verborgen. Ziel war es, KI-gestützte Peer-Reviews zugunsten der Autoren zu beeinflussen.
Im Justizsystem zeigt sich parallel ein anderes Problem durch den zunehmenden Einsatz generativer KI. Eine Studie von MIT und USC zeigt, dass die Zahl der Klagen ohne Anwalt an US-Bundesgerichten seit der Verbreitung von ChatGPT stark gestiegen ist. 2025 wurden 41.490 solcher Pro-se-Klagen eingereicht, also fast doppelt so viele wie im Durchschnitt vor dem KI-Boom. In einer Stichprobe von Klageschriften aus Anfang 2026 stufte ein KI-Textdetektor zudem 18 Prozent als KI-generiert ein. Der Fall Elliott zeigt nun eine weitere Dimension: KI hilft nicht nur beim Verfassen von Gerichtsdokumenten, sondern kann selbst zum Ziel von Manipulationsversuchen innerhalb dieser Dokumente werden.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
