Das japanische KI-Start-up Sakana AI hat ein Forschungslabor für rekursive Selbstverbesserung (Recursive Self-Improvement, RSI) gegründet. Ziel ist es, KI-Systeme zu entwickeln, die den eigenen Entwicklungsprozess eigenständig optimieren – von der Architektur über das Training bis hin zur Evaluierung.
Wie Sakana AI in seinem Blogbeitrag zur Laborgründung beschreibt, setzt das Unternehmen auf „offene, adaptive Architekturen“, die sich gemeinsam selbst verbessern sollen.
RSI in vier Phasen
Hierfür skizziert das Start-up vier Phasen. Den Anfang bilden „Agent-Native Models“, also KI-Architekturen und Weltmodelle, die von Grund auf für offene Agentenaufgaben statt für klassische Chat-Anwendungen entwickelt werden. Darauf folgt „The AI Scientist“. In dieser Phase sollen die Modelle eigenständig wissenschaftliche Forschung durchführen – von der Ideenfindung über Experimente bis zur Erweiterung des wissenschaftlichen Wissens. Die dritte Stufe „Recursive Self-Improvement“ beschreibt den Übergang zu Systemen, die ihre eigenen Foundation-Modelle und Architekturen verbessern können. KI-Agenten sollen dabei selbst Code schreiben, testen und verifizieren und so einen autonomen Zyklus der Selbstoptimierung auslösen. Als langfristiges Ziel nennt Sakana AI „Democratized AI“. Durch rekursive Selbstverbesserung und effizientere Nutzung von Rechenressourcen sollen auch kleinere Staaten, Institutionen und Unternehmen leistungsfähige KI-Systeme entwickeln können, ohne auf die riesigen Rechenzentren großer Technologiekonzerne angewiesen zu sein.
Sakana AI positioniert RSI deswegen als möglichen Ausweg aus dem Hardware-Wettrüsten der großen KI-Labore. Das Unternehmen betont, dass rekursive Selbstverbesserung mit „moderatem, sample-effizientem Compute“ möglich sein soll. Ob RSI tatsächlich den Vorteil großer Hyperscale-Rechenzentren aufhebt, ist allerdings fraglich. Zudem ist die Idee nicht grundsätzlich neu: Viele KI-Schmieden experimentieren bereits mit RSI.
Sakana AI wurde 2023 von ehemaligen Google-Forschern gegründet. Mitgründer Llion Jones ist einer der Autoren des einflussreichen Transformer-Papers „Attention Is All You Need“. David Ha forschte zuvor bei Google Brain und Stability AI. Der Firmenname bedeutet auf Japanisch „Fisch“ und verweist auf Schwarmverhalten und kollektive Intelligenz.
Risiken und die Debatte um Sicherheit
Die Gründung des RSI-Labors fällt in eine Zeit, in der die Debatte um die Risiken selbstverbessernder KI an Schärfe gewinnt. Skynet-Szenario: Anthropic warnt vor KI, die sich selbst entwickelt, und befürwortet eine koordinierte Verlangsamung der führenden KI-Entwicklung. Das KI-Unternehmen sieht das Risiko, dass Menschen die Kontrolle verlieren könnten, wenn KI-Systeme ihre eigene Weiterentwicklung schneller vorantreiben, als bestehende Institutionen reagieren können.
Sakana AI nennt als eigene Risikothemen, dass Evolutionsschleifen aus der Verteilung driften könnten, Selbstmodifikationen zwar Benchmarks bestehen, aber in der Praxis scheitern, und Agenten unerwünschte Abkürzungen finden könnten. Das Unternehmen kündigt an, offen zu publizieren – inklusive negativer Ergebnisse – und die Selbstverbesserungsschleifen mit überprüfbaren Sicherheitsmechanismen zu bauen. Für das Labor in Tokio sucht Sakana AI derzeit Frontier Research Scientists und Advanced Core Engineers.
(rie)
