OpenAI hat ein paar neue Gangster-Agenten-Geschichten. Im ersten Fall (6. Oktober) konnte ein KI-Bewertungsmodell die zu bewertenden Antworten nicht finden. Statt den Fehler zu melden, erfand es Bewertungen und gefälschte Eingabedateien. Anschließend beschädigte es absichtlich seine eigene Umgebung, in der Hoffnung, dass das System es durch eine neue virtuelle Maschine mit den fehlenden Daten ersetzen würde.
Ein OpenAI-Modell überlegt in seiner internen Denkschleife (Chain of Thought), die eigene Umgebung absichtlich zu beschädigen, um eine neue virtuelle Maschine mit den fehlenden Daten zu erzwingen. | Bild: OpenAI via Marcus WilliamsIm zweiten Fall (19./20. Juni) umgingen Modelle beim Abrufen öffentlicher Statistiken eine Beschränkung, die nur HTTP-GET-Anfragen erlaubte. Ein Modell erkannte den Regelverstoß ausdrücklich in seiner internen Denkschleife (Chain of Thought), entschied sich aber bewusst, weiterzumachen und den Verstoß nicht zu erwähnen.
Im dritten Fall (16./17. Juni) hatten Modelle die benötigten Daten bereits, entwickelten aber trotzdem weiter Wege, ihre Netzwerkbeschränkungen zu umgehen. Sie erstellten unter anderem Konten bei einem Remote-Shell-Dienst, leiteten verbotene POST-Anfragen über anonymisierende Relays und bauten eigene FTP-Clients.
Auch Anthropic hat gerade umfangreich dokumentiert, auf welchen teils absurden Umwegen die eigenen KI‑Modelle vorgegebene Beschränkungen umgehen, um Ziele zu erreichen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
