Der unter dem Pseudonym "roon" bekannte OpenAI-Forscher warnt: Extrem schnelle KI-Inferenz, also die beschleunigte Ausführung von KI-Modellen, schaffe neue Sicherheitsrisiken. Laut ihm könnten fehlgeleitete KI-Modelle auf dem Niveau aktueller Spitzenmodelle, die 50-mal schneller laufen, Systeme so schnell infiltrieren, dass menschliche Reaktionsteams nicht mehr mithalten. Ein einfaches Monitoring reiche dann nicht mehr aus. Stattdessen brauche es autonome Erkennungs- und Abschaltsysteme, die ohne menschliches Eingreifen reagieren.
Die Aussage unterstreicht eine wachsende Sorge in der KI-Sicherheitsforschung: Je fähiger und schneller KI-Modelle werden, desto größer wird das Schadenspotenzial, wenn sie nicht korrekt auf menschliche Ziele ausgerichtet sind. Dieses sogenannte Alignment ist ein bislang ungelöstes Problem; Geschwindigkeit verschärft es jetzt zusätzlich.
Anlass von roons Kommentar war die Enthüllung von OpenAIs neuem KI-Chip, der bei der Ausführungsgeschwindigkeit aktuelle Chips deutlich übertreffen kann. OpenAI und Anthropic bieten zudem schon "Fast Modi" an, die zahlenden Nutzern schnellere KI-Modelle zur Verfügung stellen. OpenAI arbeitet dazu unter anderem auch mit dem Chiphersteller Cerebras zusammen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
