Statt vollautonomer KI-Forschung bis 2028 spricht OpenAI nun von einem "Tandem" zwischen Mensch und Maschine. In einem neuen Blogpost fordern CEO Sam Altman und Chefforscher Jakub Pachocki zudem eine internationale Koordination, die Frontier-Entwicklung notfalls bremsen könnte.
Noch im vergangenen Herbst formulierte OpenAI ein ehrgeiziges Ziel: Bis März 2028 wollte das Unternehmen ein vollautonomes KI-System entwickeln, das eigenständig Forschung betreibt. In einem neuen Blogpost von CEO Sam Altman und Chefforscher Jakub Pachocki klingt das nun zurückhaltender.
Statt vollständiger Automatisierung heißt es, dass bis März 2028 "ein signifikanter Anteil" der eigenen Forschung "von KI-Systemen im Tandem mit unseren eigenen KI-Entwicklern" geleistet werden soll.
Ob diese Verschiebung technische Gründe hat oder gesellschaftliche, sei dahingestellt. Altman und Pachocki positionieren sich in dem Beitrag jedenfalls explizit in einem gesellschaftlichen Kontext gegen eine vollständige Automatisierung menschlicher Aufgaben.
"Alles vollständig zu automatisieren, ist nicht die Zukunft, die wir wollen. Es wäre unbefriedigend und gefährlich. [...] Eine zentrale langfristige Aufgabe des Menschen wird es sein, zu entscheiden, was es wert ist, getan zu werden."
Je leistungsfähiger KI-Systeme würden, desto wichtiger werde die menschliche Rolle: Richtung vorgeben, Abwägungen treffen, Urteilsvermögen einbringen.
OpenAI fordert internationale Organisation mit Option zur Verlangsamung
Gleichzeitig betont OpenAI, dass KI-gestützte KI-Forschung zum bestimmenden Faktor für das Tempo des Fortschritts werde. Ähnlich wie Anthropic vor einigen Tagen wirft auch OpenAI eine mögliche Verlangsamung der KI-Entwicklung in den Raum. Anthropic hatte eine Option auf eine Pause gefordert.
Altman und Pachocki schlagen eine internationale Organisation vor, die führende KI-Entwicklungen koordiniert, um katastrophale Risiken zu reduzieren. Diese solle der Welt "koordiniertes Handeln ermöglichen, einschließlich einer Verlangsamung der Frontier-Entwicklung, wenn nötig", damit gesellschaftliche Resilienz, Sicherheit und Alignment Schritt halten könnten.
Die Forderung steht in einem gewissen Spannungsverhältnis zu OpenAIs eigener Strategie: Im selben Blogpost beschreibt das Unternehmen drei zentrale Ziele, darunter den Bau eines automatisierten KI-Forschers, die Beschleunigung der Wirtschaft und das Vorhaben, jedem Menschen auf der Erde ein "persönliches AGI" zur Verfügung zu stellen.
Altman und Pachocki beschreiben den aktuellen Zeitpunkt als Beginn der dritten Phase von OpenAI. Die erste Phase habe der Grundlagenforschung gegolten, die zweite dem Aufbau als Produktunternehmen. Nun gehe es darum, fortschrittliche KI "reichlich verfügbar, bezahlbar, sicher, nützlich und einfach genug" zu machen, damit jeder Mensch und jede Organisation davon profitieren könne.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
