Google-Deepmind-Chef Demis Hassabis hat einen umfangreichen Rahmenvorschlag für den Umgang mit fortschrittlicher KI veröffentlicht.
Künstliche allgemeine Intelligenz (AGI) sei vermutlich nur noch wenige Jahre entfernt, so Hassabis, und wiederholte eine Aussage aus dem April: Die Auswirkungen könnten zehnmal so groß sein wie die der industriellen Revolution und zehnmal so schnell eintreten. Gleichzeitig überholten die Fortschritte das Verständnis der Technologie. Im Mai sah der Deepmind-Chef die Menschheit bereits "am Fuße der Singularität", eine viel diskutierte Aussage.
Hassabis schlägt eine neue US-Standardisierungsbehörde nach dem Vorbild der Finanzaufsicht FINRA vor. Diese solle Bewertungsprotokolle für Spitzenmodelle entwickeln, zunächst auf freiwilliger Basis, später verpflichtend. Die Behörde solle von der Industrie finanziert werden und regelmäßig aktualisierte Benchmarks nutzen. Die internationale Community müsse dann nachziehen und bei den wichtigsten Punkten einen Konsens finden.
Bei Bedarf könnte sie auch eine koordinierte Verlangsamung der Entwicklung veranlassen, wie sie zuletzt unter anderem Anthropic in Betracht zog. Hassabis betont, dass nicht-führende Modelle von Startups oder aus der Forschung ausgenommen wären. Damit entgeht er dem Vorwurf der "Regulatory Capture", also dass bereits etablierte Unternehmen versuchen, Startups über politische Regulierungen auszubremsen.
"Niemand weiß, was passiert"
Dass sich Hassabis gerade jetzt äußert, ist wahrscheinlich kein Zufall: Kurz zuvor erschien ein hochdekoriert unterzeichneter Brief von KI-Forschern und Ökonomen, der vor den möglichen weitreichenden Konsequenzen massiven Jobverlusts durch KI warnt.
Diesen Brief hatte Hassabis nicht unterzeichnet, obwohl seine Argumentation bezüglich der möglichen Konsequenzen ähnlich wirkt; er ist jedoch konkreter in seinen Gegenmaßnahmen, ohne dabei alarmistisch zu wirken.
"Niemand auf der Welt weiß sicher, was von hier aus passieren wird, und selbst die Experten sind sich uneinig. Wenn die Unsicherheit so groß und der Einsatz so hoch ist, ist vorsichtiger Optimismus die vernünftige und richtige Strategie", schreibt Hassabis.
Dass selbst die Experten sich uneinig sind, wie Hassabis sagt, zeigte sich zuletzt im Dezember 2025: Yann LeCun bezeichnete das Konzept genereller Intelligenz basierend auf Sprachmodellen als "kompletten Blödsinn" und als "Wahnvorstellung", woraufhin Hassabis ihm öffentlich widersprach und erklärte, LeCun liege "schlicht falsch".
Gemini-Co-Leiter Oriol Vinyals bietet einen Mittelweg: Heutige Modelle seien in einigen Bereichen sehr stark, aber die Fähigkeit zu echter Innovation fehle noch. Ähnlich sieht das etwa der Deep-Learning-Pionier Richard Sutton, der just ein eigenes Startup gründete, um dieses Problem zu lösen. Deepmind-Mitgründer Shane Legg hält eine "minimale AGI" schon 2028 für möglich.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
