OpenAI hat die Entwicklung seiner leistungsfähigsten KI-Modelle vorübergehend verlangsamt, unter anderem weil das kommende Modell "Astra" möglicherweise kritische Cyberangriffs-Fähigkeiten erreicht. OpenAI pausierte das Reinforcement Learning zwei Wochen lang und hält größere Trainingsläufe weiterhin an. Auslöser waren neben Astra ein Sicherheitsvorfall mit Hugging Face und "schnelle Fortschritte in der eigenen Forschung".
Laut OpenAI wurden die Forschungsumgebungen stärker abgesichert, etwa durch bessere Netzwerk-Isolation und strengere Sandboxes für Modell-Code. Ein neues Überwachungssystem schlägt bei verdächtigem Modellverhalten innerhalb von 30 Minuten Alarm. Der Überwachungsaufwand liegt bei etwa 20 Prozent der genutzten Rechenleistung.
Das Unternehmen will sein Preparedness Framework weiterentwickeln und mehr in Alignment-Forschung investieren, damit Modelle sich wie beabsichtigt verhalten. Zuletzt wurde allerdings bekannt, dass OpenAI das Team hinter dem Preparedness-Framework aufgelöst hat. Die Verantwortung soll in andere Teams übergehen.
Kritiker dürften OpenAI weiter Angst-Marketing vorwerfen: Das Unternehmen erkauft sich so mehr Zeit und Aufmerksamkeit. Allerdings hat auch das unabhängige staatliche AISI ähnliches schädliches Modellverhalten dokumentiert.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
