Im Fall der drei entlassenen OpenAI-Sicherheitsforscher äußern sich die Betroffenen nun selbst. Tomek Korbak, Mikita Balesni und Jasmine Wang bestreiten, vertrauliche Informationen weitergegeben zu haben. Sie bezweifeln die offizielle Begründung und befürchten einen Zusammenhang mit ihrem Einsatz für besser überprüfbare KI-Systeme.
OpenAI hatte die drei nach einer internen Untersuchung wegen mutmaßlicher Verstöße gegen Regeln zum Umgang mit sensiblen Informationen entlassen. Alle drei hatten sich zuvor öffentlich zu KI-Risiken geäußert.
Im Wall Street Journal widersprechen sie jetzt dieser Darstellung: OpenAI sagt dort, die Kündigungen hätten nichts mit geäußerten Sicherheitsbedenken zu tun. Die Forscher sagen dagegen, sie hätten nie schriftlich erfahren, welche Informationen sie falsch behandelt haben sollen. Sie befürchten, dass der Fall die Zusammenarbeit mit unabhängigen Sicherheitsprüfern erschweren könnte.
Laut WSJ verdächtigte OpenAIs Sicherheitsteam die drei, einem externen Sicherheitsforscher Details zur internen Architektur der Modelle verraten zu haben. Sie mussten ihre privaten Handys entsperren. Dort fand das Team Signal-Chats mit verschwindenden Nachrichten. Eine Woche später wurden alle drei zur selben Zeit entlassen. Laut OpenAI war Signal nicht genehmigt, aber nicht der Grund für die Kündigungen. Korbak hält die Nutzung verschwindender Nachrichten dagegen für eine im Silicon Valley übliche Sicherheitspraxis.
Streit um die Überwachung von KI-Zwischenschritten
Reasoning-Modelle können die Zwischenschritte ihrer Problemlösung auf einem internen Notizblock festhalten, der sogenannten Chain of Thought. Unternehmen und Sicherheitsforschende können diese Spuren auswerten, um zu verstehen, wie die Modelle zu Entscheidungen kommen.
In einem Paper von 2025 forderten Balesni, Korbak und Wang gemeinsam mit führenden Forschenden mehrerer KI-Labore, diese Möglichkeit zu erhalten. Im Sommer diskutierten Beschäftigte von KI-Firmen dann über Modelle, die länger nachdenken, aber weniger Zwischenschritte aufschreiben. Balesni stellte sich intern dagegen. Er teilte einen entsprechenden Vorschlag von Ryan Greenblatt, damals Chefwissenschaftler bei Redwood Research.
Auch Korbak stand in Kontakt mit Greenblatt. Beide arbeiteten an der Aufarbeitung des Angriffs von OpenAI-Agenten auf Hugging Face. Greenblatt war von METR für die unabhängige Untersuchung beauftragt worden. Die beiden schrieben sich über Slack und über Signal.
Leak-Untersuchung nach Bericht über Astra
Am 1. September berichtete The Information, OpenAIs neues Modell Astra sei leistungsfähiger, lege aber weniger von seinem Denkprozess offen. OpenAIs Chefwissenschaftler Jakub Pachocki nannte die Berichterstattung damals auf X verworren. Er warnte aber selbst vor einem branchenweiten Wettlauf hin zu Modellen, die sich nicht mehr überwachen lassen.
Wenige Wochen später leitete OpenAI laut WSJ eine interne Leak-Untersuchung ein. Laut Balesni nannten die Ermittler Greenblatt als mutmaßliche Quelle und wollten die Signal-Chats mit ihm sehen. Greenblatt bestreitet, vertrauliche Informationen an Journalisten weitergegeben zu haben.
Wang wurde nach eigener Aussage vorgeworfen, wiederholt auf das Postfach einer Führungskraft zugegriffen zu haben. Sie habe schon vor fast einem Jahr darum gebeten, ihr diesen Zugriff zu entziehen. Im vergangenen Monat habe sie versehentlich eine sensible E-Mail geöffnet, den Inhalt nicht weitergegeben und den Vorfall sofort gemeldet. OpenAI zufolge war der Zugriff als solcher nicht das Problem.
Korbak sagt, Kolleginnen und Kollegen hätten jetzt Angst, mit Externen zu sprechen oder Sicherheitsbedenken zu äußern. In einem Brief an den OpenAI-Vorstand fordern die drei eine engere Zusammenarbeit mit externen Sicherheitsorganisationen. OpenAI will in Kürze mehrere solcher Kooperationen bekannt geben.
Bei einer gerade erst veröffentlichten Vor-Ort-Prüfung durch Mitarbeiter von METR und Redwood Research hat OpenAI beinahe die Hälfte des Abschlussberichts geschwärzt. Laut den beiden externen Forschern gab es zahlreiche Sicherheitsprobleme in OpenAIs Infrastruktur. Parallel veröffentlichte OpenAI einen eigenen Bericht zu einer neuen Sicherheitsarchitektur ohne Internetzugang. Die Fehler seien behoben und das Training wurde Anfang Oktober wieder aufgenommen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
