OpenAI hat mit GPT-6 Cyber ein KI-Modell vorgestellt, das gezielt für die Suche nach Sicherheitslücken in Software trainiert wurde.
Laut OpenAI soll das Modell Schwachstellen finden, funktionierende Angriffswege entwickeln und gleichzeitig Vorschläge für Patches liefern, also für den Code, der die Lücken schließt. Dabei soll es zuverlässig in den ihm vorgegebenen Grenzen bleiben. Einigen OpenAI-Modellen gelang das in den vergangenen Monaten eher schlecht.
OpenAI gibt an, GPT-6 Cyber gezielt darauf trainiert zu haben, sich an den vorgegebenen Handlungsrahmen zu halten, unter anderem mit einem vom Hugging-Face-Vorfall inspirierten Honeypot. GPT-6 Cyber vermied laut OpenAI solche Grenzüberschreitungen in 99,93 Prozent der Fälle ohne spezielle Sicherheitsanweisungen, gegenüber 94,49 Prozent beim Vorgänger. Mit Sicherheitsanweisungen habe das Modell in 100 Prozent der Tests innerhalb der Grenzen gearbeitet. Insgesamt stuft OpenAI GPT-6 Cyber in seinem eigenen Bewertungssystem, dem Preparedness Framework, als "Critical" im Bereich Cybersicherheit ein, wie auch schon das "Basis"modell GPT-6 Astra.
Auf dem Benchmark ExploitGym, der prüft, ob ein Modell eine vorgegebene Schwachstelle in einem entfernten System ausnutzen kann, erreicht GPT-6 Cyber laut OpenAI 48,5 Prozent gegenüber 32,1 Prozent beim Vorgänger GPT-5.6 Cyber. Für einen neuen Test zur Erkennung von Schwachstellen in Webanwendungen ohne Zugriff auf den Quellcode meldet OpenAI eine Trefferquote von 40,3 Prozent, verglichen mit 32,0 Prozent für GPT-6 Astra, das Standardmodell ohne Cyber-Ausbau.
ExploitGym-Ergebnisse im Vergleich: GPT-6 Cyber erreicht mit 48,5 Prozent den höchsten Wert, gefolgt von GPT-6 Astra (Daybreak Blue) mit 42,4 Prozent. GPT-6 Astra mit aktivierten Safeguards liegt bei 0,0 Prozent. | Bild: OpenAIDie vollständigen Ergebnisse stehen in der System-Card. Sämtliche Benchmark-Zahlen stammen von OpenAI selbst. Unabhängige Tests des Modells liegen bislang nicht vor.
Firefox und Linux: Bereits reale Schwachstellen aufgedeckt
GPT-6 Cyber hat laut OpenAI bereits in konkreter Sicherheitsforschung Ergebnisse geliefert. In einer gezielten Untersuchungskampagne habe das Modell 81 bisher unbekannte schwerwiegende Schwachstellen in Firefox gefunden, obwohl der Browser zuvor bereits mit früheren KI-Modellen getestet worden sei. Zusätzlich habe das Modell bei 30 bereits bekannten Problemen gezeigt, dass sie schwerwiegender seien als bisher angenommen. Mozilla habe die Berichte angenommen und bereits Fixes veröffentlicht.
Im Linux-Kernel hat GPT-6 Cyber laut OpenAI 1.724 Sicherheitslücken reproduziert und für 948 davon funktionierende Angriffe entwickelt. Das sind mehr als fünfmal so viele wie die 166, die GPT-5.6 Sol unter gleichen Bedingungen geschafft habe. 304 kritische Funde seien an Linux-Maintainer gemeldet worden, samt Vorschlägen zur Behebung.
Für die Linux-Kernel-Kampagne baute OpenAI eigens ein automatisiertes System aus Scout- und Analyst-Agenten. Sie durchsuchten zunächst rund 5.034 sicherheitsrelevante Stellen im Kernel, etwa sieben Prozent des gesamten Codes. Daraus filterten sie 2.308 Kandidaten und wiesen 1.724 Schwachstellen in abgeschotteten virtuellen Maschinen nach. Anschließend entwickelte das System die 948 funktionierenden Angriffe, die OpenAI bereits gemeldet hatte. Laut OpenAI kostete der gesamte Durchlauf 1.213.430 Dollar an Rechenkosten, umgerechnet 1.279 Dollar pro Angriff. Zum Vergleich: Programme wie Pwn2Own oder TyphoonPWN zahlten in der Vergangenheit zwischen 20.000 und 70.000 Dollar pro vergleichbarem Fund als Prämie.
Die Agenten setzten dabei laut OpenAI mindestens zehn neuartige Angriffstechniken ein, die auch externen Fachleuten für Kernel-Sicherheit unbekannt gewesen seien. Die Modelle haben nach Darstellung von OpenAI also bekannte Angriffsmuster nachgebaut und darüber hinaus eigene Wege gefunden. Wie viel Gewicht diese Aussage trägt, hängt davon ab, wie eng man "eigene Wege" und "neu" definiert. Im Kontext von KI-Modellen wird diskutiert, ob sie ausschließlich innerhalb ihrer Trainingsdaten arbeiten oder tatsächlich neue Entdeckungen machen können.
Zugang zunächst nur für ausgewählte Kunden
GPT-6 Cyber ist laut OpenAI zunächst über die API und Codex für eine ausgewählte Gruppe von Daybreak-Red-Kunden verfügbar. Der Zugang soll schrittweise auf alle Daybreak-Red-Kunden ausgeweitet werden. Gleichzeitig wird GPT-5.6 Cyber für alle Daybreak-Red-Nutzer freigeschaltet, und der Alpha-Zugang zu Daybreak Blue für GPT-6 Astra soll auf weitere Organisationen und einzelne Sicherheitsforscher ausgedehnt werden.
OpenAI räumt ein, dass mit wachsender Leistungsfähigkeit der Modelle auch die Missbrauchsversuche zunehmen. Einzelne Akteure und Gruppen versuchten etwa, die Fähigkeiten der Modelle in eigene Systeme zu übertragen.
Als Gegenmaßnahmen nennt OpenAI unter anderem eine Prüfung, ob die Aktionen eines Modells zur Berechtigung des Nutzers passen, gezieltes Monitoring bei neu bekannten Schwachstellen, automatisierte Sicherheitsprüfungen über sogenanntes Private Safety Processing, IP-basierte Zugangsbeschränkungen für Daybreak Red sowie die Empfehlung, das Modell in abgeschotteten Umgebungen unter menschlicher Aufsicht zu betreiben.
Besondere Aufmerksamkeit widmet OpenAI dem Schutz kritischer Infrastruktur wie Kraft- und Wasserwerken. Um Verteidigern den Zugang zu erleichtern, verweist das Unternehmen auf sein eine Milliarde Dollar schweres Förderprogramm "Daybreak for Frontline Defenders" und eine neue Untergruppe namens "Daybreak Red for Critical Infrastructure" für autorisierte Tests.
OpenAI spricht von einem begrenzten Zeitfenster, in dem Spitzenmodelle genutzt werden könnten, um Software abzusichern. Ziel sei es, das Daybreak-Programm auf Organisationen jeder Größe, unabhängige Forscher und Open-Source-Betreuer auszuweiten.
Ob das gelingt, sei dahingestellt: Forscher von Epoch AI zeigten gerade erst, dass das offene GLM-Modell schon erkannte, aber noch nicht geschlossene Firefox-Sicherheitslücken hätte ausnutzen können.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
