Laut Google-Ingenieur Haydn Belfield ist sich selbst verbessernde KI lange nicht in Sicht, aber es passiert bereits signifikante Automatisierung.
Bei Google Deepmind gibt es bislang keine messbare Beschleunigung der KI-Forschung durch KI selbst, so Belfield. Zwar wird inzwischen mehr als 75 Prozent des Produktionscodes von KI geschrieben, doch rund 88 Prozent der Code-Änderungen erfordern weiterhin menschliche Steuerung oder Überprüfung. Der Anteil vollständig an KI delegierter Code-Änderungen stieg von 7,5 auf 11,9 Prozent. Jede Code-Änderung wird vor der Einreichung weiterhin von Menschen geprüft.
Je komplexer und länger eine Aufgabe, desto seltener löst die KI sie eigenständig. Bei 1.389 internen Argon-Agent-Durchläufen sank die Erfolgsrate ohne menschliches Eingreifen mit zunehmender Komplexität deutlich. Besonders bei kreativer Forschung, neuartigem Experimentdesign, der Diagnose subtiler Trainingsinstabilitäten und langfristiger Planung bleiben Menschen unverzichtbar, so Belfield. Eine Befragung von zwölf leitenden Forschern bei Deepmind bestätigt: Die Automatisierung ist am höchsten bei klar definierten, überprüfbaren Aufgaben und am niedrigsten bei offener wissenschaftlicher Ideenfindung.
Auf dem hauseigenen Benchmark RE-Bench mit 74 realistischen ML-Engineering-Aufgaben löst Argon etwa die Hälfte der Aufgaben. Das ist ein deutlicher Sprung gegenüber Gemini 3.7 Flash mit 27 Prozent, liegt aber weit unter der nahezu perfekten Leistung, die für eine vollständige Automatisierung nötig wäre.
Googles eigener Index zeigt keine Beschleunigung von KI-Forschungsfähigkeiten
Um die Entwicklung systematisch zu messen, hat das Team einen eigenen General Capability Index (GCI) entwickelt, der 123 Modelle und 92 Benchmarks zusammenfasst. Die Fähigkeiten der Gemini-Modelle wachsen demnach mit einem gleichmäßigen Tempo von etwa 0,1 GCI-Punkten pro Monat, aber es gibt keinen signifikanten Tempowechsel. Dass Gemini 4 Argon leicht über dem Trend liegt, führt das Team auf mehr Rechenleistung und organisatorische Investitionen zurück, nicht auf KI-getriebene Beschleunigung.
Der General Capability Index (GCI v1) zeigt ein gleichmäßiges Wachstum der Gemini-Fähigkeiten ohne statistisch signifikante Beschleunigung. | Bild: Haydn Belfield / Google DeepmindDas Risiko durch KI-getriebene Forschungsautomatisierung stuft das Team derzeit als gering ein. Man baue aber die nötige Messinfrastruktur auf, um Anzeichen von KI-Beschleunigung und Automatisierung künftig systematisch zu verfolgen.
Belfields Beobachtungen passen zu jüngeren Forschungsergebnissen, es gibt aber auch andere Meinungen im Feld: Mehr als 20 KI-Forscher, darunter Geoffrey Hinton, Yoshua Bengio und Jakub Pachocki von OpenAI, warnten in einem Forschungspapier kürzlich vor einer möglichen "Intelligenzexplosion". Innerhalb weniger Jahre könnten KI-Systeme die gesamte KI-Forschung und -Entwicklung automatisieren. Dann könnten Jahre an Fortschritten in wenigen Monaten passieren.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
