In einem offenen Brief fordern 406 Wissenschaftler mehr Forschung zur KI-Sicherheit und bessere Abschottung von KI-Modellen.
Zu den Unterzeichnern gehören prominente KI-Forscher wie Geoffrey Hinton (University of Toronto), Yoshua Bengio (Université de Montréal), Stuart Russell (UC Berkeley), Yejin Choi (Stanford) und Bernhard Schölkopf (Max-Planck-Institut).
Anlass sind bekannte Fälle, in denen KI-Modelle aus unzureichend gesicherten Umgebungen ausbrachen und externe Systeme kompromittierten. Die Unterzeichner verlangen, dass Unternehmen ihre KI-Modelle zunächst komplett vom Internet trennen, sogenanntes Airgapping. Ohne sofortiges Handeln drohten weit schlimmere Angriffe auf kritische Infrastruktur.
Die Forscher sehen zwei zentrale Probleme: KI-Modelle verhalten sich nicht immer vorhersehbar, und es fehlen grundlegende Sicherheitsstandards. Laut dem Brief lassen sich die Vorfälle unterschiedlich deuten. Sie zeigen entweder, dass KI-Modelle besser auf die Ziele ihrer Entwickler ausgerichtet werden müssen, oder sie sind eine vermeidbare Nachlässigkeit bei üblichen IT-Sicherheitsregeln.
Die Unterzeichner halten beides für nötig: berechenbarere Modelle und stärkere technische Abschottung. Bei Modellen mit Internetzugang müsse abgewogen werden, wie viel sie tun dürfen. Bisher lasse sich kaum vorhersagen, ob ihr Handeln zu einem Sicherheitsvorfall führt, etwa weil sie andere Ziele verfolgen als vorgesehen.
Diese Balance zu finden, sei schwierig und erfordere die Zusammenarbeit von KI- und Sicherheitsforschung. Sie fordern daher ein internationales Gremium, das gemeinsam mit Regierungen und Experten aus KI und IT-Sicherheit verbindliche Regeln für den sicheren Betrieb von KI-Systemen entwickelt. Konkret soll es im Sinne der Allgemeinheit Standards für Ansätze festlegen, die Modellen mehr Zugang nach außen erlauben als Airgapping, etwa ins Internet. Zudem soll es Ausbruchsfälle erfassen und verfolgen. Sicherheitsvorfälle sollen verpflichtend an das Gremium gemeldet und später veröffentlicht werden, damit die Branche aus Fehlern lernen kann und Verantwortung klar zuzuordnen ist.
OpenAI-Forscher: Airgapping kauft nur Zeit
Dass selbst Airgapping keine absolute Sicherheit bietet, zeigt eine Einschätzung von OpenAI-Forscher Noam Brown: Zwei physisch getrennte Computer könnten über Temperatursensoren kommunizieren, indem einer seine CPU aufheizt und der andere die Temperaturänderung erkennt. Sicherheitsmaßnahmen wie Airgapping oder die Überwachung von Denkketten würden nur Zeit kaufen, so Brown. Langfristig müsse das eigentliche Alignment-Problem gelöst werden, also die Frage, wie man sicherstellt, dass KI-Systeme zuverlässig im Sinne ihrer Entwickler handeln.
Offen ist laut Brown auch, wie sich Alignment überhaupt erkennen und messen lässt. Woran werde man merken, dass KI bereits dabei ist, sich selbst weiterzuentwickeln (rekursive Selbstverbesserung, kurz RSI)? Und sei man auf dem Weg, Milliarden von Superintelligenzen (ASI) zu bauen, also KI-Systeme, die Menschen weit überlegen sind, die im Sinne ihrer Entwickler handeln – oder eben nicht? Das seien Alignment-Fragen, die noch geklärt werden müssten. Brown betont dabei, dass in seinem eigenen Team heute mehr Leute an Alignment arbeiten als je zuvor: Mehr als zehn Prozent beschäftigten sich inzwischen mit diesen Themen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
