Anthropics neues Modell Claude Mythos Preview hat in Firefox eine Rekordmenge an Schwachstellen aufgedeckt. Mozilla legt offen, wie die KI-Pipeline funktioniert und welche Lücken sie fand.
In einem ausführlichen Beitrag auf dem Mozilla-Hacks-Blog beschreiben drei Firefox-Entwickler, wie ihr Team mit Claude Mythos Preview 271 bislang unbekannte Sicherheitslücken in Firefox 150 fand und schloss. Insgesamt behob Mozilla im April 423 Sicherheitsprobleme, im Rekordmonat März waren es nur 76. Die Aufschlüsselung zeigt deutlich, wie zentral Mythos Preview dabei war: Neben den 271 in Firefox 150 stammt ein weiteres Drittel der übrigen 111 intern gefundenen Bugs ebenfalls aus Mythos-Läufen. Die anderen zwei Drittel verteilen sich auf die gleiche Pipeline mit anderen Modellen und auf klassische Testverfahren wie Fuzzing. Nur 41 der insgesamt 423 Lücken kamen von externen Meldungen.
Noch vor wenigen Monaten galten KI-generierte Fehlerberichte laut den Autoren überwiegend als unnützer KI-Slop: plausibel klingende, aber falsche Befunde, deren Prüfung die Entwickler nur Zeit kostete. Zwei Entwicklungen hätten das Bild gekippt: leistungsfähigere Modelle und eine bessere Infrastruktur, die echte Funde von Rauschen trennt.
Wenn die KI ihre eigenen Behauptungen überprüft
Frühere Versuche mit GPT-4 und Claude Sonnet 3.5, den Code rein lesend zu analysieren, scheiterten an zu vielen Fehlalarmen. Den Durchbruch brachten laut Mozilla sogenannte agentische Systeme: Die KI kann eigene Testfälle bauen und ausführen, um zu prüfen, ob ein vermuteter Fehler wirklich existiert. Diese Selbstkontrolle filtert Spekulationen aus. Mozilla startete mit Claude Opus 4.6 in kleinen, manuell überwachten Läufen und verteilte den Prozess später auf viele virtuelle Maschinen, die parallel jeweils eine Datei prüfen. Darum baute das Team eine Pipeline, die Doppelmeldungen aussortiert, Funde priorisiert und Korrekturen bis zum Release begleitet.
Im Februar hatte Anthropics Frontier-Red-Team eine erste Serie von Schwachstellen an Mozilla gemeldet. Aus dieser Zusammenarbeit ist die jetzt gezeigte Pipeline entstanden.
Um die Glaubwürdigkeit der Funde zu belegen, veröffentlichte Mozilla einige Bug-Berichte früher als üblich. Darunter ein 15 Jahre alter Fehler im HTML-Element für Formularbeschriftungen, ein 20 Jahre alter Bug im XML-Werkzeug XSLT und mehrere Wege, aus der Sandbox auszubrechen, jenem Schutzmechanismus, der Webseiten vom Rest des Systems abschottet. Ein Beispiel: Eine HTML-Tabelle mit mehr als 65.535 Zeilen brachte ein internes Zählfeld zum Überlaufen. Auch Mozillas zusätzliche Sandbox für fremde Programmbibliotheken namens RLBox wurde überwunden.
Frühere Schutzmaßnahmen halten stand
Aufschlussreich ist auch, was die Modelle nicht schafften. Mehrere Angriffsversuche zielten auf eine Technik namens Prototype Pollution, mit der Angreifer in der Vergangenheit aus der Sandbox ausgebrochen waren. Diese Versuche scheiterten an einer Architekturentscheidung, die Mozilla bereits vor Jahren getroffen hatte. Den direkten Beleg, dass frühere Schutzmaßnahmen wirken, empfanden die Entwickler als ebenso wertvoll wie neue Funde.
Viele der entdeckten Lücken sind allein nicht ausreichend für einen Angriff, müssten also mit weiteren Schwachstellen kombiniert werden. Genau solche Schwachstellen seien aber mit klassischen Testverfahren wie Fuzzing kaum zu finden, KI-Analyse decke diese Fläche deutlich umfassender ab. Mozilla will die Pipeline künftig direkt in den Entwicklungsprozess einbauen, damit jeder neue Code vor dem Einchecken automatisch geprüft wird.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
