Manche glauben, dass KI in langen Gesprächen dazulernt und immer besser wird. Eine neue Studie von Microsoft Research zeigt das Gegenteil: Autonome KI-Agenten bleiben durch ihren akkumulierten Chat-Kontext in lokalen Lösungsregionen gefangen.
Microsoft-Forscher untersuchten sogenannte "Autoresearch-Agenten": KI-Systeme, die iterativ Lösungen vorschlagen, bewerten und auf Basis des Feedbacks weiterentwickeln. Acht unabhängige Durchläufe desselben Agenten auf derselben Aufgabe erreichen dabei Plateaus auf deutlich unterschiedlichen Leistungsniveaus, mit finalen Scores zwischen 68,3 und 100,0. Diese Unterschiede bleiben laut dem Paper selbst nach erheblichem zusätzlichem Rechenaufwand bestehen.
Agenten stecken in "Ideen-Senken" fest
Um das Problem besser zu verstehen, ordneten die Forscher die Lösungen aller Durchläufe auf einer zweidimensionalen Karte an, auf der ähnliche Lösungen nah beieinander liegen, und verglichen sie. Das Ergebnis: Die Lösungen eines einzelnen Durchlaufs blieben fast immer in einer kleinen Region dieser Karte. Diese Regionen nennen die Autoren "Idea Basins", also Ideen-Senken.
Die Agenten verbringen demnach einen Großteil ihres verbleibenden Rechenbudgets damit, Lösungen innerhalb einer wenig produktiven Region zu verfeinern, statt die deutlich besseren Ansätze zu entdecken, die andere Durchläufe gefunden haben. Dieses Muster bleibt bestehen, obwohl die Agenten ihre Gesprächsverläufe periodisch komprimieren.
Vergessen hilft: Chat-Kontext löschen, Arbeitsbereich behalten
Die vorgeschlagene Lösung heißt "Fork-and-Flush" und kombiniert zwei Mechanismen. Beim "Forking" wird der Agent in K parallele Trajektorien aufgeteilt, die jeweils den bisherigen Arbeitsbereich mit allen erzeugten Dateien erben. Beim "Flushing" wird der gesamte Chat-Kontext gelöscht, sodass jede Trajektorie mit einer frischen Konversation beginnt, aber auf den bisherigen Arbeitsergebnissen aufbauen kann.
Links: Ein einzelner Durchlauf (grau, gestrichelt) verfeinert Ideen innerhalb einer Senke. Fork-and-Flush löscht den Chat-Kontext, startet parallele Zweige, behält den besten und verwirft den Rest. Rechts: Ein Zweig mit frischem Kontext springt in eine neue Ideen-Senke und erzielt dort einen höheren Score. | Bild: Cai, Ziakas et al. (2026)Ein Branch, der den Chat-Kontext des Elternprozesses behält, tendiert dazu, dieselbe Ideen-Senke wieder zu betreten, weil die vorherige Argumentation die nächsten Schritte vorprägt. Ein frischer Kontext stellt die Suchdiversität wieder her. Der bisherige Gesprächsverlauf geht dabei verloren, Code, Dateien und darin gespeicherte Ergebnisse bleiben jedoch erhalten.
Bis zu 66 Prozent bessere Ergebnisse bei gleichem Rechenbudget
Die Forscher haben Fork-and-Flush auf 13 Langzeit-Aufgaben getestet, die von Polyomino-Packing über Job-Shop-Scheduling und Kryptanalyse bis hin zur Kompression eines CIFAR-Klassifikators und der Optimierung eines VLIW-Kernels reichen. Einzelne Durchläufe dauerten von mehreren Stunden bis zu über 100 Stunden. Als Agenten-Modelle kamen GPT-5.6-terra und GPT-5.5 zum Einsatz, ausgeführt über GitHub Copilot CLI.
Bei gleichem Rechenbudget erreicht Fork-and-Flush einen min-max-normalisierten Durchschnittsscore von 0,78, verglichen mit 0,47 für einzelne Durchläufe und 0,54 für Best-of-4. Das entspricht relativen Verbesserungen von 66,0 beziehungsweise 44,4 Prozent. Bei 12 von 13 Aufgaben erzielte die Methode den höchsten Mittelwert.
Neben der höheren Leistung liefert die Methode auch konsistentere Ergebnisse: Die normalisierte Standardabweichung sinkt auf 0,16, verglichen mit 0,26 bei einzelnen Durchläufen. Bereits das bloße Löschen des Chat-Kontexts ohne jede Verzweigung verbessert die Ergebnisse um 22 Prozent.
| 13 Aufgaben | Einzelner Durchlauf | 0,47 | 0,26 | Baseline |
| 13 Aufgaben | Best-of-4 | 0,54 | 0,21 | ca. +14,9 % |
| 13 Aufgaben | Fork-and-Flush | 0,78 | 0,16 | +66,0 % |
| Elf Aufgaben | Einzelner Durchlauf | 0,45 | — | Baseline |
| Elf Aufgaben | Nur Flushing | 0,55 | — | ca. +22 % |
Stärkere Modelle lösen das Problem nicht
Eine naheliegende Frage ist, ob das Problem der Ideen-Senken mit leistungsfähigeren Modellen verschwindet. Die Forscher testen diese Hypothese mit MAX-3-SAT-Problemen über drei Modellgrößen (Qwen3.5-4B, 9B und 27B). Die Varianz zwischen Durchläufen folgt einer invertierten U-Kurve und ist am höchsten, wenn die Aufgabe genau an der Grenze der Fähigkeiten des Modells liegt, mit einem Peak bei etwa 50 Prozent der Referenzleistung.
KI-Modelle liefern bei Aufgaben an ihrer Leistungsgrenze besonders unterschiedliche Ergebnisse: Manche Durchläufe gelingen gut, andere deutlich schlechter. Bei sehr einfachen Aufgaben sind sie dagegen fast immer erfolgreich, bei sehr schwierigen fast immer erfolglos. Dieses Muster zeigt sich bei allen drei getesteten Modellgrößen. | Bild: Cai, Ziakas et al. (2026)Da offene Forschungsprobleme per Definition an der Fähigkeitsgrenze angesiedelt sind, erwarten die Autoren, dass die Varianz, die Fork-and-Flush ausnutzt, auch bei zukünftigen, stärkeren Modellen nicht verschwinden wird. Die Grenze verschiebt sich lediglich zu schwierigeren Problemen. Die Ergebnisse legen daher nahe, dass regelmäßige Kontextneustarts auch bei stärkeren Forschungsagenten hilfreich bleiben könnten.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
