OpenAI hat mit GPT-Red ein internes KI-Modell trainiert, das automatisiert Sicherheitslücken in GPT-Modellen aufspüren soll. GPT-Red simuliert Angriffe wie Prompt-Injections, bei denen schädliche Anweisungen etwa in E-Mails, Webseiten oder Dateien versteckt werden, um ein KI-Modell zu manipulieren. Das Modell wurde per Self-Play-Reinforcement-Learning trainiert: GPT-Red greift an, Verteidiger-Modelle wehren ab, beide werden dabei besser. Laut OpenAI findet GPT-Red in 84 Prozent der Testszenarien erfolgreiche Angriffe, menschliche Red-Teamer nur in 13 Prozent. In einem Praxistest manipulierte GPT-Red einen KI-gesteuerten Automaten im OpenAI-Büro, änderte Preise und stornierte Bestellungen anderer Kunden.
Die Ergebnisse fließen direkt ins Training ein: GPT-5.6 Sol weist laut OpenAI sechsmal weniger Fehler bei direkten Prompt-Injections auf als das beste Modell von vor vier Monaten, ohne dass die allgemeine Leistungsfähigkeit leide. Damit bleibt es aber dennoch weiter anfällig: Rund 3,8 Prozent der Prompt-Injections sind erfolgreich. Skaliert man die Angriffe auf Hunderte oder Tausende, kann hier eine beachtliche Anzahl zustande kommen, ähnlich wie bei Claude Opus 4.5.
GPT-Red bleibt intern und wird nicht veröffentlicht. Ein Paper mit weiteren Details soll folgen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
